1971年9月，林彪“自我爆炸”以后，叶剑英的处境稍有好转，随后，叶剑英又开始与“四人帮”苦苦周旋。1973年初在毛泽东、周恩来的支持下，受“四人帮”排斥的邓小平复出工作，担任了国务院副总理。接着周恩来又向中央建议在他病住医院期间，由邓小平全面主持国务院工作，实际是同时负责党政军的日常工作。为了拯救“文化大革命”造成的政治、经济的全面危机，邓小平便大刀阔斧地开展整顿工作。至1975年，国家局势有所好转，邓小平的整顿工作得到人民的拥护。但由于“四人帮”把持宣传舆论工具，他们诬陷邓小平整顿是右顷翻案。1976年1月，周恩来逝世，是年清明节前夕，全国不少地方出现了自发的悼念周恩来、支持邓小平、反对“四人帮”的群众活动，天安门广场成为声讨“四人帮”的战场。“四人帮”就借此对邓小平罗织罪名，进行政治诬陷，4月7日，中共中央作出了撤销邓小平党内外一切职务，保留党籍，以观后效的决定。随后，邓小平受到的监管。7月6日朱德病逝，9月9日毛泽东病世，举国悲痛。而“四人帮”却加紧篡党夺权的阴谋活动，人民共和国面临生死存亡的抉择。当时的形势正如叶剑英指出的“情况已到了不破不立的紧急时候，不破了‘四人帮’，中央就立不起来。不破‘四人帮’，我们这个党就很危险。”。在党和国家面临危难之时，叶剑英不负众望，挺身而出，在多数中央政治局委员的支持下，10月6日，叶剑英亲自坐镇怀仁堂指挥抓捕“四人帮”的行动，前后用了不到一个小时的时间，没有费一枪一弹，就一举粉碎了“四人帮”，在这场斗争中，叶剑英起了决定性的作用。
粉碎“四人帮”的第二天，叶剑英就提出，应该尽快让邓小平出来工作。但这一提议遭到拒绝。当时邓小平正生病住在医院里，不久，叶剑英就安排邓小平一家住到西山，为了邓小平今后工作方便，叶剑英指示办公室主任王守江负责送文件给邓小平。经叶剑英的积极努力，1977年8月，召开的党的十届三中全会上以全票通过了恢复邓小平职务的决议。叶剑英为确立第二代领导核心邓小平的领导地位，起到了重大作用的。
　　1986年10月22日凌晨1时16分，叶剑英在北京病世，10月31日，叶剑英的骨灰由专机从北京移送到广州，暂时停放在广州农民讲习所旧址内。1987年10月22日，在叶剑英逝世一周年之际，中共中央在广州起义烈士陵园举行叶剑英半身石雕像落成和灵骨安放仪式，叶剑英又回到了当年他和张太雷等同志领导下参加广州起义而英勇牺牲的战友们身边，同他们长眠在了一起。