11月15日17时，我军发起总攻。由于前期作战桥梁已被守军破坏，攻城部队首先面临的难题是架桥。攻城前的炮击由于我重武器不多，只持续了半小时，并未对城墙造成太大破坏。此时进攻命令已经下达，我军指战员置生死于度外，冒着敌密集火力架桥。在西门，第9旅25团3营7连为完成架桥任务，不怕牺牲，前赴后继，连续5次失利，终于在第6次成功架起桥梁，为突击队铺平了道路。

    架桥成功后，旅工兵排连续三次在敌暗堡下投放炸药包，将城墙炸开一个缺口，8连在爆破硝烟掩护下飞速过桥。当接近护城河桥头时，遭到敌人疯狂的火力阻挡，子弹如雨点般密集打在桥上，炮弹一个接一个在地面爆炸。8连的战士们毫不畏惧，一往无前，排长倒下了，班长带着冲，班长倒下了，战斗组长带着冲。最终，连长高玉岐带着的13名战士扑上城墙的缺口，一鼓作气登上城墙，9连也迅速跟上，协同8连击退敌反扑。攻城部队突入城内后，实施多路攻击，分割包围。经一夜激战，我军歼敌大部，并将国民党军残部压缩在城中心天主教堂。敌凭借教堂坚固工事，居高临下，墙外活动的敌装甲车封锁我前进道路。第8旅多次进攻未果，战斗陷入僵持状态。为打开局面，爆破组在机枪掩护下，巧妙利用装甲车射击死角，携带炸药隐蔽在马路一侧排水沟，当装甲车接近时迅速把炸药包扔到装甲车上。但装甲车前盖形如鱼背，车又在运动中，圆形炸药包还没爆炸就滚下车。为快速解决战斗，爆破组任建福冲到装甲车前，迅速将炸药包硬塞到装甲车履带前后轮中间，将装甲车炸瘫，从而顺利攻占敌最后据点。张绩武见大势已去，仓皇出逃，后被我军俘虏。至此，宿县宣告解放，国民党宣称“固若金汤”的宿县，最终被我军攻克。

    攻占宿县，我军控制了徐州到蚌埠间100余公里铁路，切断了津浦线，将徐州和蚌埠地区国民党军割裂成南北两块，完成了对徐州的战略包围，有力地保障了华东野战军围歼黄百韬兵团的作战，为淮海战役决战胜利赢取关键一仗。