16日下午，粟裕命令：“第一、第四纵队向南，第九纵队向西南，第八纵队向东南，第六纵队向西，准备向孟良崮和600高地发起最后的攻击，并令特纵榴弹炮团迅速做好射击准备，到时候要不计消耗，集中火力向孟良崮和600高地实施最猛烈的袭击。”
总攻时间一到，三颗信号弹腾空而起，就像发出了埋葬敌整编第七十四师的命令，各路炮兵向敌军阵地倾泻了密集的炮弹，炸得敌人心惊胆战。一向号称训练有素、作战有方的第七十四师，在华东野战军炮兵的打击下，失去指挥，队形混乱，立即成了乌合之众。
在嘹亮激昂的冲锋号声中，我华东野战军主攻部队以神勇无敌的气概向孟良崮第七十四师残部勇猛扑去，漫山遍野都响彻了华东野战军部队雄壮的口号声：“打下孟良崮，活捉张灵甫！”“活捉张灵甫，打烂王牌虎！”
此时的张灵甫在孟良崮主峰的一个山洞中，声嘶力竭地向第二十五师师长黄佰韬、第八十三师师长李天霞呼救：“李师长、黄师长，赶快向我靠拢。赶快向我靠拢……看在党国的分上，拉兄弟一把吧！”平日骄横自负的张灵甫，此时顾不得什么体面了，往日的傲慢和盛气荡然无存，只有发出绝望哀号的份了！
我第六纵队特务团首先突破孟良崮西侧，直取敌第七十四师指挥所盘踞的山洞。他们刚刚打上孟良崮主峰，就遭到1000多敌人的拼死反扑。他们集中所有轻重机枪向敌猛烈扫射，冲入敌阵展开白刃战，当即全歼该部。敌率领残部反扑的参谋长魏振铖被华东野战军生俘。当特务团三连冲到洞口时，正赶上张灵甫卫队的20多人刚要露出头，顷刻间就被消灭了。但就在这洞口冲杀的瞬间，遭到了洞内敌人的抵抗。三连指战员奋起还击。张灵甫一伙知道败局已经无法挽回了，他们以无线电告知蒋介石，诉说友军见死不救，对李天霞没有派出部队掩护第七十四师右侧安全极为不满，并说这是导致第七十四师失败的主要原因。随后，他将在指挥所的副师长以下，团长以上军官姓名报告了蒋介石，决心“集体自杀，以报校长培育之恩”。
经激战，洞内的一切抵抗停止了。我攻击分队冲进洞内，发现戴着中将衔的敌师长张灵甫已经被击中，倒在血泊之中。与张灵甫同时在洞中被击毙的还有敌第七十四师副师长蔡仁杰，第五十八旅旅长卢醒、副旅长明灿等。
摧毁了第七十四师的指挥所，部队开始打扫战场、清点战果。但发现被击毙和俘虏的人数比第七十四师实际编制数少得多。粟裕马上命令各部进行战场搜索，决不让一个敌人漏网。此时，黑云盖天，山雨欲来，能见度极低，搜索部队在孟良崮与雕窝之间发现聚集了数千敌人。粟裕即令第四、第八、第九纵队出动兜剿。至下午5时全部肃清。至此，号称“国军模范”“常胜铁军”“”“王牌军”的第七十四师被我华东野战军彻底歼灭了。几天后，陈毅为歌颂华东野战军指战员血战孟良崮的事迹，特赋诗一首：
孟良崮上鬼神号，
七十四师无地逃。
蒋贼专横嗟命薄，
美帝侵略徒空劳。
华东战场捉笼鸟，
沂蒙山区似虎牢。
原野麦黄家家足，
人民军队胆气豪。
