1976年10月(63岁),“四人帮”被粉碎,正在参加联合国大会的乔冠华立刻回国。由于在“四人帮”的组阁名单上,乔冠华被列为副总理,因此他被隔离审查。审查期间,1977年3月,乔冠华突发心肌梗塞。1978年8月,被确诊肺癌。
1983年,乔冠华担任对外友好协会顾问。
1983年9月22日,乔冠华病逝。