蒋介石的崛起同黄埔军校分不开。孙中山为建立革命武力，于1924年6月成立黄埔军官学校，任命蒋介石为校长。同年10月，军校学生平定广州商团事变，蒋介石的黄埔系开始崭露头角。1925年2月，蒋介石率军校教导团以及粤军第一次东征，连战皆捷；6月，蒋介石又讨平了杨希闵、刘震寰的叛乱，巩固了广东这块革命根据地的同时，也为自己后来出任国民革命军总司令打下了坚实的基础。

冯玉祥成为国民联军的总司令颇有一番曲折。

冯玉祥本名冯基善，字焕章。1882年出生于河北保定，十一岁因家境贫寒失学，只得住在父亲的营盘里自修功课，其父希望替他补上兵额，领得一些“恩饷”以补助家庭用度。当时他父亲所在的清朝保练军是著名的“父子兵”，一般人是很难补得上的。后来营中终于有了一个缺额，管带苗某就说：“这回该叫冯大爷的儿子补上去。”主管人员问：“叫什么名字？”苗管带一时想不起来，又怕耽误这一机会，就随手写了“冯玉祥”三字。从此，这个名字就正式使用起来。

从军之后，冯玉祥历任哨长、队官、管带、协统、师长，一直做到陕西督军、河南督军、陆军检阅使等，以治兵严厉闻名。1924年9月，北洋军阀第二次直奉战争爆发，冯玉祥以直系部将，率所部自古北口班师回京，与老同盟会员胡景翼、孙岳两军会合，号国民一、二、三军，趁机倒戈，反吴佩孚发动首都革命。从此，国民军成为新兴崛起的独立军系。1925年1月，冯玉祥专任西北边防督办，将国民一军各部统辖于西北边防督办署，改称为西北陆军。

1926年初，由于曹锟、吴佩孚的直系联合张作霖的奉系在华北夹击冯玉祥的国民军，广东的军事委员会主席蒋介石指出，“国民军退出京津，尚未被完全消灭前，英、日两国比协定以奉军对西北之国民军，以吴佩孚对南方之广东革命军，故应联络国民军，使其退守西北，保留固有之势力；并于三个月内出兵北伐，在吴势力尚未充足之际，一举占领武汉。”

正是如此，1926年6月3日，蒋介石电邀冯玉祥来粤共筹大计。6月11日，人在苏联莫斯科的冯玉祥复电：“我救国军队非会师武汉，不能达救国之目的。”并电文派李鸣钟、刘骥全权赴粤会商。按照陶英惠教授的理解，蒋介石与冯玉祥互通函电，“可能自此始”。

其后，7月9日，广东国民政府誓师北伐。这年的9月16日，冯玉祥自苏联归抵五原，17日就任国民联军总司令。实际上，国民政府誓师北伐之时，国民军正在与直奉联军酣战。誓师之后的冯玉祥，收拾残局，重整旗鼓，正式加入国民革命行列，平定甘陕，出潼关而鏖战中原。