1922年获哈佛大学硕士学位回国后，汤用彤先后在东南大学、南开大学、中央大学任教，并开始研究汉魏两晋南北朝佛教史，汤用彤与曾一起在哈佛大学留学的陈寅恪、吴宓并称“哈佛三杰”。1931年后，应胡适之邀来到北京大学任教，从此再未离开北大。

1937年7月抗战爆发，北平城内的汤用彤两兄弟走上了截然不同的两条道路。哥哥汤用彬留在了已沦陷的北平，此时弟弟汤用彤正在南京参加中国哲学会，会议一开完，汤用彤即直接取道长沙，并与随后赶到的大儿子汤一雄一同奔赴昆明西南联大，开始了抗战时期的艰苦生活。

1948年，在东北战场，国民党军队节节败退，其统治风雨飘摇。当年年底，国民党政府给北大校长胡适发来电报，催促他迅速飞往南京。胡适给北大的秘书长郑天庭以及哲学系主任汤用彤各自留下一封信后，就匆匆离开了北京大学。

望着手中胡适的亲笔信，汤用彤心情极为复杂，17年前，他攥着胡适的亲笔邀请信，来到北京大学任教。17年后，他再次接到胡适的信，而这次却是胡适彻底“撒手”北大。

胡适走后，国民党南京政府又派飞机来接知名的学者。在这批学者和教授的名单中，汤用彤教授的名字赫然在上。汤用彤放弃了他手中的那张机票，和他一同拒绝登机还有冯友兰教授与贺麟教授等人。