毛泽东紧握着林遵的手，高兴地说：“你是林则徐的侄孙，久闻大名啊！你的先人林则徐是抗英英雄，民族英雄，全国敬仰啊！你毅然脱离国民党军队，率部起义，同样是英雄壮举，可钦可佩、可喜可贺呀！”“谢谢你为祖国立了大功！你们的起义抵得上我们几十万大军，大大地缩短了全国解放的过程……”林遵激动万分，眼中涌出了泪花，深感率部起义的道路是走对了。

谈话一直持续了两个多小时，林遵从始至终都在全神贯注地聆听。这次见面，成了他终生难忘的记忆。

1949年9月15日，经毛泽东批准，林遵出任华东军区海军第一副司令员，后历任军事学院海军教授会主任、海军学院副院长、东海舰队副司令员等职。1955年被授予海军少将军衔。

1979年7月16日，林遵在上海病逝，走完了他极富传奇色彩的一生。临终前，林遵仍念念不忘深深热爱的大海、舰队和战友。他留下遗言：“我一生爱海军，爱海洋，又是东海舰队的副司令，坦骨东海，正是死得其所。”（李涛）

毛泽东在中南海接见林遵（前排左二）。