由于长期在高原环境和高强度压力下工作，张国华的身体越来越坏，以致积劳成疾。1972年2月20日，张国华在主持召开会议时猝然发病，倒在会场，第二天与世长辞，年仅58岁。正如他生前所说，“我不愿躺在床上呻吟，只有战场才是我的归宿”。