但没等陶德曼和蒋介石的进一步商谈得出任何实质性的结果，日本方面便于1938年1月16日发表了一份官方声明，称谈判已经结束。东京方面对德国“提供的斡旋”表示感谢，并且撤销对国民政府的承认。对于日本的挑衅，18日国民政府发表声明：“中国政府于任何情形之下，必竭全力以维持中国领土主权与行政之完整，任何恢复和平方法，如不以此原则为基础，决非中国所能忍受。”同时，中日两国互相召回驻对方大使。陶德曼调停中日战争的努力实际上已告失败。

陶德曼调停期间，德国的政策已经明显倒向了日本，随着局势的发展，日本在德国全球战略中的地位也愈显重要。1938年2月20日，希特勒在国会发表演说，宣布：“德国将承认‘满洲国’，以抛弃过去不可解之幻想政策，而尊重现实。”这一演说，成为中德关系倒退的转折点。24日，中国政府照会德国外交部，表明了“对德国此种不友谊行为之不满”。德国方面则通过其外交部向中国驻德大使程天放表示：“德方对中日战事仍保持过去中立态度，希望中国政府亦继续以前对德友谊。”

然而，德国说一套，做一套。6月24日，外长里宾特洛甫下令召回驻华大使陶德曼，与此同时，德国国防部则严令禁止军火输华。7月5日，全体德国顾问离华返国。中德合作至此结束，两国关系基本破裂。

1940年9月27日，《德意日三国同盟条约》正式签订，条约“承认并尊重日本在建立大东亚新秩序中之领导地位”。次年7月，德国更进一步宣布承认汪精卫伪政权。这无疑是对中华民族及远东地区各国人民利益的粗暴干涉。南京国民政府在忍无可忍的情况下，正式宣告与德国断绝外交关系。1941年12月7日，日本偷袭珍珠港，太平洋战争爆发，9日，中国政府宣布同时对德国、日本、意大利宣战，双方处于战争状态，与德国间的“所有一切条约、协定、合同”，“一律废止”。中德关系至此完全破裂。

希特勒拉拢蒋介石合攻印度

中德绝交后，德国仍然企图拉拢中国。1942年，德国有关方面引诱中国缔结《中德军事密约》，企图将中国绑到轴心国的战车上。但得知希特勒想要中国“突攻印度，与德合作”的计划后，蒋介石警醒了。他在6月18日日记写道：“对德国路线，勿再探索为宜??不如严令拒绝之。”蒋介石这时关心的是加强反法西斯阵营的力量，争取反法西斯战争的胜利。当年2月，蒋介石与宋美龄曾访印，力劝英国与印度化解矛盾，共同投入反法西斯战争，现在德国却要中国“背盟”，“突攻印度”，自然要被蒋介石拒绝。

关于合攻印度的会师计划，据德国陆军总参谋长哈尔德回忆，希特勒曾向他提出，分兵越过伊朗，进驻波斯湾，与日本“在印度洋会师”。日本外务大臣重光葵在《昭和的动乱》一书中也说：希特勒“认为大军南侵，从乌克兰进攻高加索，将石油控制在手，可断绝英、美从波斯湾方面对苏的援助，使德国的势力伸展到中亚细亚，再与印度方面的日军遥遥相对，取得联系”。

为实现会师计划，1942年3月23日，德国外长里宾特洛甫和日本驻德大使大岛会谈，商讨轴心国的战略，要求日本占领锡兰和马达加斯加等地，以配合德军向中东和高加索的进军。日本在偷袭珍珠港得手，取得局部海上优势后，也曾制订了一个用5个师攻打澳大利亚、夺取锡兰，与希特勒在印度洋上会师的计划。