张灵甫还犯下了另外一个最严重的错误：他忘记了离他最近的援军是国民党整编第83师，师长是李天霞。张灵甫和李天霞同为黄埔毕业，又同是第74军（整编第74师前身）军长王耀武的亲信。不过此前，他们俩人为了争夺整编第74师师长的位置曾明争暗斗，结果张灵甫把李天霞挤了下去，李天霞对此一直怀恨在心。当张灵甫在孟良崮上苦苦鏖战时，李天霞虽然只距离他仅有10公里，但是李天霞只是象征性地派了一个连前进到孟良崮东侧，余部则按兵不动，眼睁睁地看着张灵甫挨打。

    尽管李天霞消极以对，但张灵甫的另一支援兵黄百韬的整编第25师却极力援救张灵甫，全速向华野阻援部队发起攻击。华野攻击部队伤亡越来越大，弹药补给也出现了困难。已经有指挥员提出：停止攻击，撤出战斗，以防被敌人包了饺子……粟裕清楚，此刻决定战局走向的只有指挥员的决心。他下令任何人不准撤退，24小时内必须拿下孟良崮。最后的总攻是5月16日凌晨发起的，这场激烈的战斗一直持续了16个小时才结束。华野最终攻占孟良崮，张灵甫阵亡，整编第74师宣告覆灭。

    整编第74师的覆灭以及张灵甫殒命的消息，像晴天霹雳震撼了国民党统治中心，蒋介石哀叹“这是我军剿匪以来最可痛心、最可婉惜的一件事”。而此战役也成就了粟裕“百万军中取上将首级”的壮举。