1922年6月15日夜，薛岳等人已经侦知陈炯明即将采取对孙不利的行动，为保障孙氏安全，大家建议孙氏化装出逃，后孙辗转到达永丰舰上。次日，陈可钰率领800余总统府警卫兵力开始与前来围攻的陈炯明部周旋，薛岳第一营固守总统府后院；双方一度发生激战，均损失惨重。在将孙夫人宋庆龄女士送出后，陈可钰、薛岳率所部200余人成功突围，转进至韶关一带驻扎。实际上，秀才出身的陈炯明还算是个厚道人，他对于孙中山等人是手下留情的。
忠实孙氏的粤军二次援闽打击了皖系军阀，于10月12日攻克福州，随后孙中山任命许崇智为东路讨贼军总司令、永丰舰救驾有功的蒋介石为参谋长。薛岳时任总司令部中校参谋，后于1923年1月出任第八旅第十六团上校团长。
在其后讨伐陈炯明的战争中，薛岳率部猛追猛打，战绩突出：
“时追击叛军到达大埔的薛岳，奉命率第十四团星夜赶往兴宁，阻击从赣边南下增援之林虎叛军。3月11日夜，薛岳率部赶到兴宁北面的合水，与叛军激战半日，叛军被击退，向平远方向败逃。13日，薛岳率部追至东石，乘夜袭击叛军，叛军又向北逃。18日，追至大宗袜，薛岳指挥部队乘夜袭击叛军，敌溃败。此役伤敌数百人，俘敌四百余名，缴获步枪五百余支。迫使残敌逃往福建和江西，从而保障了右翼军在棉湖战役的胜利。”[11]
薛岳的表现虽然也还可以，曾一度受到蒋介石的通电表扬，但明显不如张发奎等人突出，以至于在职位上逐渐分出了高低。薛岳绰号“老虎仔”，可见一股子勇猛之气，但张发奎的那种“拼命三郎”精神也是可圈可点的，对此，张发奎自己解释说：“薛岳毫无疑问是有才干的，但他经常轻率莽撞。”[12]
张氏的这个评论还算靠谱，薛岳可以在逆境中创造奇迹，也可以在顺境中出现败绩；他的个性不够深沉，因此很容易被胜利冲昏头脑。不过后来张发奎锐气渐消，抗战时期再未有惊人的表现。
粤军第四军由原粤军第一师发展而来，1925年7月，薛岳成为第四军副官长兼代参谋长（张发奎为第四军第十师师长，陈可钰是副军长），驻扎于广东肇庆。
在北伐战争前夕，薛岳成为了蒋介石任军长的第一军第一师副师长兼第三团团长。第一军号称“党军”，起初是经过苏俄式政工制度改造的，里面也包含了大量的共产党员，此时的薛岳非常左倾，他眼见第四军不能容共，大概才选择前往第一军吧；何况在广东的六个军中，“第四军之外，第一军也是劲旅。黄埔军校每期训练时间虽不过数月，实际上只是一些军士教育，距军官教育相差尚远，然全军受革命风气的熏陶，颇有朝气，尚可作战”（李宗仁评论）。
而蒋介石之所以接纳薛岳，是由于黄埔军校在建立时承蒙粤军的资助，粤军为黄埔军校提供了大量资金、枪械、物资、教官等，薛岳正是粤军调拨各种物资给黄埔办学的负责人，因此蒋介石要领他这个情。在那个时期，一般军人都不愿意做没有实权、不能指挥作战的参谋长[13]，热血慷慨、一心建功立业如薛岳，自然还是希望去做部队的主官，因此他才主动去到蒋那里跑来了官儿。
不过，“中山舰事件”之后，蒋介石在第一军中大肆清洗共产党员，以至于第一军的战斗力受到很大影响，因为在当时，共产党员的确是最具革命精神、比较勇猛善战的。而蒋介石本人又偏爱一些死忠于他的人，导致出现了用人唯亲的不良现象。
在北伐战争时期，张发奎作为第四军第十师师长大放异彩，威名传遍海内，以至于他后来成为这支“铁军”的军长。薛岳虽未在这一时期建立奇功，却也表现出了他的不凡。
1926年9月19日，在南昌城内工人、学生的配合下，北伐军第六军及第一军第一师一举攻占了该城。江西省会丢失，无疑是对“五省联帅”孙传芳的巨大打击，因此孙传芳闻报后，立即命南北两路迅速夺回南昌，20日，孙军开始向南昌反扑。
由于第一师师长、蒋介石的亲信王柏龄没有执行切断南浔路（南昌到九江的铁路）的命令，使得孙军顺利南下。加上王柏龄为人不太着调儿，进入南昌后有得意忘形、夜间寻花问柳等麻痹之举，敌军突然进攻，第一师因军中无主，与敌军刚一接触，就被打得落花流水，以致损失过半。
杂牌的第六军只有万余人，力量很弱，一战下来，第六军也是损失惨重。22日，第三军赶到南昌近郊，他们与第六军等余部会合后一起再攻南昌。上午时分，北伐军第二次攻入南昌城内，但由于北伐军内部矛盾重重，不能有效配合，结果又被孙军击败。
第一师再次受到重大损失，险些全军覆没。王柏龄眼看势头不好，自知无法向蒋总司令交代，只得与党代表缪斌畏罪潜逃，造成了第一师大乱。身为第一师副师长兼第三团团长的薛岳，临此危难时刻，当即展现出了自己挽狂澜于既倒的英雄风范。
薛岳星夜兼程赶到了师部所在地生米街，竭力稳住了军心，又整顿编组了第一、第二团，而后他奉命率领第一师残部向奉新转移，总算保住了第一师的架子、保住了蒋总司令的面子。
10月上旬，作为北伐军总司令、第一军真正主人的蒋介石鉴于薛岳的战功，以及其诚实不欺的风范，便提升薛为第一师中将师长。
第一军中虽然已“清理”过一些突出分子，但是潜藏的共产党员还是很多，包括薛岳、严重（第二十一师师长）等人都有明显的左倾倾向。当北伐军攻占上海的时候，薛岳还与中共领导下的工人纠察队相与甚欢，甚至不顾北伐军副总参谋长白崇禧的反对，应上海总工会邀请率部开进上海。
与张发奎一样，此时的薛岳对中共充满了同情，社会主义学说毕竟占据了一定的道义制高点。后来当蒋准备调第一师离开上海时，据说薛岳还曾特意跑到中共中央的驻地，提出要把蒋介石作为反革命扣押起来。此时已经成为第一军军长的何应钦一度有掌握不了第一军的感觉，鉴于第一军的不稳形势，1927年4月2日，正在紧锣密鼓地筹备武力清共的蒋介石便把李宗仁、白崇禧的第七军调来拱卫宁、沪一带，并派白崇禧为上海警备司令，顺便对薛岳等人进行监视。
四一二反革命政变发生后，由于薛岳反对枪杀共产党（不反对逮捕），结果他被第一军踢了出来；由于他是广东人及前粤军第一师元老、第四军参谋长，他便回到广州投奔了前第四军军长、第八路军总指挥李济深，被李任命为第八路军暂编第一师师长。
宁汉对立以后，张发奎等人在财困粮乏的湖北等地不易立足，于是决定率部回到广东。此时张发奎在政治上紧随汪精卫，与李济深、白崇禧一派不睦；张发奎试图依靠武力将李济深驱逐出广东，可是由于其部刚刚遭遇过八一“南昌暴动”，实力大损，以至于不得不竭力争取薛岳。张、薛本为至交，薛岳又折服于第四军的铁军威名，自然乐于联张，做了次吕布。
张发奎通过薛岳劝说李济深支持汪精卫不成，便趁着李济深北上南京开会的当儿，将广州据为己有。李济深不能咽下这口气，于是又组织兵力反攻广州。第四军主帅张发奎此时不在军中，李济深在桂军的配合下，终于将第四军赶出了广东。
张发奎后来说道：“缪培南（第四军代理军长）的名望远不及我，长官在场与否，差异太大了。如果我留下来，我们会紧守阵地避免败绩。事实上薛岳比缪培南威望高，但我不能把军队交给薛岳，因为他刚加入第四军不久。”
薛岳对于这次背叛李济深非常后悔，因为他当初根本不晓得第四军的底细，他没想到当初威名赫赫的铁军部队已经残破到如此不堪的地步——三个师的枪支，居然还赶不上薛岳一个师的枪支多！
但开弓没有回头箭，薛岳由于同张发奎的特殊关系，因此暂时走上了一条反蒋之路。汪精卫、张发奎、薛岳等人都是广东人，中国的派系政治也往往带有地域色彩，这一点是需要我们注意的。
不过需要一说的是，造成张、薛两部实力耗损的因素，也包括了1927年12月共产党人在广州发动的暴动。这场暴动由叶挺、张太雷、叶剑英等人领导，造成了正在抵抗李济深、黄绍竑（桂系巨头）反攻的张、薛部后院起火，导致薛岳从此对“背后捅刀子”的中共产生成见，乃至在镇压暴动过程中大开杀戒，甚至杀了几个协同暴动的苏联人。
据苏共前重要领导人托洛茨基《自传》中的记述，薛岳的抓蒋密谋被捅到了斯大林那里，但由于斯大林直到1927年4月“在圆柱大厅内党的会议上还在捍卫与蒋介石联合的政策”，因此大概是斯大林通知了蒋介石对薛岳预作防范。若非有人为薛岳求情，可能蒋就要处死他了。后来薛岳大概明白了些什么，才选择去“反共”的李济深那里。
但是薛岳起初可能只是厌恶了共产党，并不至于如此仇视，广州暴动直接促使他对共产党痛下杀手。对此，张发奎说道：“在平暴时，他特别残酷无情，他对共产党显露出刻骨的仇恨，毫不怜悯，杀人绝不犹豫。以前他总是保护共产党员，如今却发生一百八十度的转变……”薛岳一时杀得兴起，还想枪决苏俄领事夫妇及其两个孩子，结果被张发奎制止[14]。
从此，薛岳便走上了一条坚决的“反共”之路，再没有回头。
由反蒋到投蒋
在二次北伐成功以后，1928年7月，为了满足国人消弭战乱、埋头建设的强烈心声，国民政府开始进行大规模裁军。
蒋介石及冯玉祥、阎锡山、李宗仁等几大军头各有自己的小算盘，被裁减最厉害的自然是那些三不靠的队伍。第四军虽然暂时投靠了蒋，但非蒋的嫡系部队，因此被缩编成第四师，人员也从两万人压缩到不足万人。此举自然引起了张发奎、薛岳等人的极大不满，他们借着国内风起云涌的反蒋形势，也加入到了反蒋队伍中。
蒋桂战争爆发时，为了对付李宗仁、白崇禧等新桂系势力，蒋介石不得不起用已暂时下野的张发奎，令他重掌第四师（第四军）。桂系势力退出湖北以后，张发奎率部驻扎于宜昌、沙市一带，当时汪精卫及改组派已经决定从事武力反蒋活动。改组派（中国国民党改组同志会）系陈公博等人所组织，奉汪为精神领袖，颇得一般党员的支持，曾在国民党内掀起一股有力的反蒋狂潮。
蒋介石对于张发奎部本来就不放心，如今他更风闻到一些张部不稳的消息。1929年9月初，蒋以贯彻编遣实施会议决议为名，令张发奎部移防陇海线，与新一师曹万顺部换防。9日，蒋致电刘峙，部署两师换防事宜。接下来，动作鬼鬼祟祟，可见其不无谋张之心。
张发奎拒不从命，他一面派出使者与广西的新主席俞作柏接触，密谋间道湖南入广西，与俞作柏会攻广东，在广东东山再起；一面派人与汪精卫接触，请汪从中斡旋，动员俞作柏反蒋。
当张发奎南进途中，汪精卫便派出薛岳到南宁，与俞作柏密洽，望广西方面与张部合作攻粤，开创一番新局面。双方很快取得默契，但俞作柏还有些犹豫。俞作柏考虑到自己当时接管广西才三个月，根基不稳，而且一切尚未部署就绪，仓促起事必然冒险。
可是，薛岳的催迫和蒋介石的压迫，促使俞作柏很快表态。然而俞作柏的担心不是多余的，在蒋介石的军事及银弹攻势下，俞作柏很快垮台，趁乱杀回广西的李宗仁、白崇禧又重新控制住了局面。
基于共同的反蒋立场，张发奎不得不采取与桂系合作的手段，组成桂张联军以壮大声势。当时全国的反蒋势力此起彼伏，但拥蒋势力也不容小觑，其中桂张联军的劲敌便是以粤省主席陈铭枢及第八路军总指挥陈济棠为代表的拥蒋派。
经过此前的蒋桂战争，桂系实力已严重下降，而且他们还面临着来自广东及湖南两个方向的威胁；张发奎部长久流动作战，早已残破不堪，而且不过万余人，因此桂张联军在第一次粤桂战争中败北。此战系桂系三巨头之一的黄绍竑指挥，在激战中，张发奎眼见中央军三个师已经加入战斗，他又得悉蔡廷锴所部正准备前来偷袭，觉得“即使我们能攻入广州，最终也会被消灭”，因此他突然下令撤退，导致全盘失利。
经此惨败，张军的战斗部队仅余五六千人（原为七千余人），张发奎不得不将第四军缩编为三个团，分别由三个老同学吴奇伟、薛岳、韩汉英指挥。
1930年5月，阎锡山联络冯玉祥、李宗仁等共同举起反蒋大旗，“中原大战”一触即发。
桂张联军决定倾巢而出，配合冯玉祥部拿下武汉。桂张联军兵分前后两路，当联军前锋已经到达湖南岳阳并接近湖北时，对于北上不情不愿的黄绍竑拖拖拉拉，结果导致他所率领的后队被粤军堵在了衡阳，粤军主力系原第四军名将蒋光鼐、蔡廷锴所指挥的两个师，即后来的抗战劲旅第十九路军前身。
李宗仁等不顾白崇禧的反对，毅然决定回师衡阳，待击破粤军后再合力北上。此次粤桂之战系生死之战，“小诸葛”白崇禧决定打一场有进无退的决死战，以打破眼前的巨大困局。可是由于桂张联军缺乏重武器，粤军凭借坚固工事顽强防守，终于导致兵力上只占微弱优势的联军的惨败——整整十四年后，日军也在衡阳遭遇了一次真正的挫折。