冯玉祥到南京初期，蒋介石与他几乎朝夕相处，事事向他请教，他每提出一个建议，蒋介石都诺诺答应，甚至用红铅笔记下。

正是如此，在这段时间内，冯玉祥致蒋介石的多封书信开头写道“昨晚聚谈，以鄙见所及，荷蒙嘉许”、“昨晚承招饮，相谈甚欢，所陈三事，颇蒙嘉许”、“昨谈各事，快甚！”等的话语。而冯玉祥确也将自己关于国家政治、经济、文化建设甚至包括法律的一些观点，写给蒋介石阅览。

1936年12月12日，张学良、杨虎城为逼蒋抗日，发动了震惊中外的西安事变。西安事变后，冯玉祥致电张学良、杨虎城，请求释放蒋介石，同时表示，自己愿意去西安做人质，以保证张杨的安全。

在12月13日这封致张学良的电文中，冯玉祥写道：“若犹难释然，祥当约同知交多人留居贵处以为释回介公之保证。”

1937年7月7日，卢沟桥事变爆发，国共两党开始了第二次合作。抗日战争爆发后，冯玉祥选择全力拥护蒋介石，到南京就任军事委员会副委员长。两人携手走向抗日战场。

从陶英惠教授搜集的电文看，淞沪会战期间，冯玉祥被蒋介石任命为第三战区司令长官；其后冯又出任第六战区司令长官，期间冯玉祥举荐的人才如冯治安、鹿钟麟等一概予以录用。

自1939年下半年起，蒋介石、冯玉祥的互动日渐减少。对此，陶英惠教授解释：此时冯玉祥经常接触者，多为共党或左派人士。而冯玉祥又遇事好作批评，致蒋介石对其“敬而远之”。

此后，冯玉祥基本无公事可办，直至抗战胜利。

1945年，冯玉提出出国考察。蒋介石给了他“水利特使”的名头，并给他办了退伍手续—1945年7月31日。“他为这个事很伤心，他可是个终身的职业军人啊。”据余华心介绍，这是冯玉祥后来始终不肯原谅蒋介石、反蒋到底的重要原因之一。

1946年9月14日，冯玉祥携夫人李德全、参议冯纪发等八人抵达美国。

不过，蒋冯最后的决裂是在1947年。 这一年的9月9日，冯玉祥在美国组织“华侨和平民主协会”，以促进其呼吁美国政府停止对中国之一切援助。其后，又多次在美国街头发表演讲，呼吁美国民众不要支持蒋介石。

1947年11月12日，蒋介石以其反政府言论和行动，过于离谱，撤销了其赴美考察水利专使名义，令即回国。冯玉祥不予理睬，随即国民党开除了冯玉祥的党籍。1948年元旦，李济琛领导的“国民党革命委员会”在香港成立，冯玉祥被选为中央委员之一。

2月8日，冯玉祥在《纽约下午报》发表了一封致蒋介石的公开信，信中冯玉祥指斥蒋介石撕毁了政治协商会议全部议案和诺言。要求蒋介石，“下野，立刻离开中国，把所有的交还人民！如果你仍是基督信徒的话，那么，你应该向上帝招认你的罪过。”

信中，冯玉祥告诉蒋介石，我写给你这一封信，或者是最后一封信。没想到，一语成谶，1948年9月1日冯玉祥在黑海敖德萨港附近因苏联“胜利号”轮船起火去世。