1960年，取代彭德怀担任国防部部长的林彪开始推行“政治挂帅”、“四个第一”、“三八作风”，韩练成的学术思想和“旧军人作风”显得不合时宜，因而在军事科学院受到重点批判。在这次批判中，凝聚他多年心血的关于国防现代化、正规化的大部分手稿被拿去“分析”、“批判”，以致散失。他一怒之下，将其余手稿付之一炬。若干年后，每每提起这把火，他都痛惜不已。

晚年无意复出

1966年“文革”爆发后，韩练成感到很不理解。1967年春，当陈毅、叶剑英等元帅拍案而起“大闹怀仁堂”，对林彪、江青进行针锋相对的斗争，被打成“二月逆流”时，韩练成十分同情和支持“三老”（李富春、谭震林、李先念）、“四帅”（陈毅、叶剑英、徐向前、聂荣臻）。1967年7月，他写《蜀葵》一诗，寄托自己对老帅们的思念之情。他在序中说：“连日骤风暴雨，园中群芳零落，唯蜀葵独立挺拔，感而有作，远怀陈总。”

林彪事件后，中央决定由叶剑英主持中央军委工作，在陕西临潼干休所的韩练成得知消息后，与被贬黜在临潼任装甲兵副司令员的程世才等人畅饮相庆。

1978年2月，韩练成作为军队特邀委员出席第五届全国人民政治协商会议，当选为全国政协常委。在此前后，全国人大常委会委员长叶剑英曾多次直接或间接地向韩练成发出“廉颇老矣，尚能饭否？”的问询，韩练成无意复出，以诗词代言寄达叶帅，有《中秋夜坐偶得（兼答叶帅）》一首：

年年秋雨送秋光，今夜天晴净夜长。

老去时逢新际遇，梦回屡省旧词章。

身闲不觉人心险，风疾犹闻桂子香。

绣女炫工她自得，庸才碰壁我何妨？

早惊白发羞看剑，肯为浮名斗巧妆？

吟罢哑然无说处，半窗落月照清凉。

韩练成晚年虽年事已高，但仍十分关心国家的和平统一大业，特别怀念台湾的亲朋故旧，渴望祖国早日实现和平统一。

1984年2月27日，韩练成走完了传奇的一生，终年76岁。胡耀邦、叶剑英、邓小平等中央领导人对其一生作出了高度评价，他长期的“隐形将军”身份，也逐渐公开。