中国士兵的士气高涨，他们集中在台儿庄准备与日军决一死战。国民党在台儿庄周围驻扎有第2、第20、第40、第41和59军，在南线与之相对峙的是日本帝国陆军第9、第13、第116和第106师团，北线是日军第5、第10、第16、第l03、第104、第105以及第14师团，参战的日军达到了40万。

　　为了消灭撤退的国民党军队，日本帝国陆军总部命令北线日军全线出击，南线的军队全力防止中国军队突围。这拉开了台儿庄战役的序幕。

　　日军担任突击任务的是由板垣征四郎少将指挥的第5师团和矶谷廉介少将指挥的第10师团。当时日军的这两个师团负责指挥在中国战区的所有作战装甲力量，它们是日军中唯一编制有独立坦克团的单位，每个团大约辖有100辆坦克和装甲车。这是日军最具战斗力和机动能力的两支部队。

　　在台儿庄，李宗仁正在考虑如何给日军设下陷阱。他深知，过于自信的日军将会全速前进，直取台儿庄，这样就没有必要的力量来保护通信线和补给线。速度缓慢的日军大部队根本无法跟上一路狂奔的第5和第10师团，并为其提供支援。台儿庄是一个重要交通枢纽，如果日军占领台儿庄，那么驻扎徐州的中国部队将会被分割成片。因此，日军如果想要占领徐州，必须攻占台儿庄。

　　对于李宗仁来讲，他制定的防御计划很简单：将日军先头机动部队拖入台儿庄巷战，赢取重新集结兵力的时间，最后对市内的日军进行围歼。

　　正如李宗仁所料，日军第5和第10师团一路猛进，钻入了中国军队的包围圈。此前，李宗仁将中国军队在台儿庄外围分成5个据点部署，其中4个据点各包括4个军的兵力，他们的任务就是挖战壕进行隐蔽，放日军过去，然后切断其联系。李宗仁亲自率领一支由第30、第42、第51、第41、第44、第60、第46、第22和第75军以及4个独立师组成的强大部队，准备对日军实施致命一击。

　　台儿庄的防御重任就落在了国民党第2集团军的肩上了。他们挖掘了大量战壕，同时配备了机枪，用于扫射跟在装甲车后面的日本步兵。而日军坦克为了保护步兵，通常会加速前进以试图消灭中国军队的机枪阵地。

　　当日军坦克冲到中国防御阵地一百余米时，中国装备有反坦克炮的装甲车就会冲出阵地与日军坦克厮杀。当日军坦克冲到战壕附近时，中国军人就会勇敢地跳出来将绑扎成捆的手榴弹扔向坦克履带下面。中国最有效的反坦克“武器”是那些浑身绑满了炸药誓与敌坦克同归于尽的敢死队员们。由于缺少步兵的支援，日军的坦克根本没有发挥多大的作用，很快被消灭干净。

　　经过两个星期艰苦卓绝的战斗，国民政府第2集团军高达70%的人员阵亡。李宗仁命令幸存的勇士们利用夜间袭击日军，以挫败其攻击计划。李宗仁同时还下达了死命令——任何人不准后退，否则就地正法。

　　而此时，行动迟缓的日本陆军北方集团军主力在山东腾县遭遇到了中国军队的猛烈阻击，驻扎此地的是从四川急调过来的第41军。该军作战英勇顽强，特别是第122师，整个师包括师长王铭章在内全部阵亡，没有一名军人投降。最终，他们成功地抵挡住了日军近乎疯狂的进攻，收紧了包围圈。

　　在中国军队奋力抵抗日军第110师团的时候，李宗仁命令他的主力部队从南面，也就是日本帝国陆军的背后发起攻击。日军不但损失了最精锐的两个师团，而且速战速胜的希望也被彻底击碎。到1938年4月时，在中国领土上的110万日本陆军中，有25%或阵亡或受伤，到1939年时，这一数字已经超过了50万。

　　台儿庄战役的受挫，使日军学乖了不少，在此