1958年5月27日至7月22日，召开的军委扩大会议有1000多名军队高级干部参加，林彪从会议一开始就煽风点火，别有用心地攻击刘伯承主持的军事学院和叶剑英主持得训练总监部是“教条主义的大本营”、“教条主义的司令部”，毛泽东对这两个单位也提出了批评。为顾全大局，两位元帅都作了违心的“检讨”，当时刘伯承正在外地治病，他还是专程从千里之外抱病出席会议。20多年之后即1980年，邓小平公开宣布：“那次反教条主义是错误的。”1986年邓小平又撰文说：“1958年批判他(伯承)搞教条主义，那是不公正的。”

　　1971年林彪叛逃事件发生后，中共中央决定由叶剑英主持军委日常工作，叶剑英特意指示总参谋部：“将刘伯承同志自1960以来的指示汇集起来，以绝密件印发给军委各总部、北京军区以及各有关部门参考执行。”叶剑英还及时检查了这项工作的落实情况。刘伯承晚年健康状况一直不好，叶剑英十分关心他的病情，多次去看望他，并一再交待医务人员，精心治疗、精心护理、争取早日恢复健康。1975年1月26日，叶剑英给毛泽东写信，建议军委6人小组改组扩大为军委常委会，并建议增加刘伯承为常务委员。

　　1986年10月7日17时40分，刘伯承在北京去世，享年94岁，15天后，即1986年10月22日凌晨1时16分，叶剑英也在北京去世，享年89岁，二人的追悼会都是由时任中共中央政治局常委、中央顾问委员会主任、中央军委主席邓小平主持的，致悼词的都是由时任中共中央政治局常委、总书记的胡耀邦。按刘伯承留下的遗言：将骨灰撒在祖国大地上，后留下的部分骨灰葬在他创办的南京军事学院旧址上，也就是今南京军区司令部大院内；叶剑英的骨灰最终“叶落归根”，在他去世一年后，葬在了他的家乡广东省广州起义烈士陵园内，墓前立有叶剑英半身石雕像。