对于其中的原委，川军将领也大多知晓，但凡有点爱国心和自尊心的，都无不为此感到羞愧。是啊，天下之大，竟无处容身；有心杀敌，岂料报国无门！可这又能怪谁呢？！

    李宗仁在见到邓锡侯总司令及孙震军长后，安慰他们说：“咱们在中国内战中打了二十余年，回想起来太无意义。如今总算有一个机会让我们各省军人停止内战，大家共同杀敌报国。希望大家都把以往忘却，从今之后大家一致和敌人拼命。”由于川军的装备实在太差，李宗仁又立刻从第五战区的库存中拨给一些新枪、迫击炮和大量弹药，川军上下，无不感奋，在滕县之战中，川军将士奋勇杀敌，死而无憾，书写了川军抗战史上最光彩、最光荣的一页。

    滕县的牺牲决不是无谓的，因为它为其他部队增援台儿庄赢得了时间和空间。在北上日军被困淮河、板垣师团受阻临沂后，矶谷师团仍旧十分嚣张，其在攻占滕县后继续南下，试图与板垣师团会师台儿庄，最后总攻徐州，大有“先入关者为王”的气焰。

    但是，正因为这种骄横的心态，为日军的失败埋下了伏笔，滕县失守后，第五战区也有两支劲旅被调到，一是汤恩伯的第二十军团，该军团系国民党军队的精锐之师，下辖两个军（关麟征第五十二军和王仲廉第八十一军），下属五个师（郑洞国第二师、张耀明第二十五师、陈大庆第四师、张雪中第八十九师、张轸第一一○师），这个军团的装备很好，步兵均配备捷克式步枪，重机枪、大炮等重武器也很齐全，还有一德制重炮营，实力不容小觑。特别值得一提的是，汤恩伯系黄埔军校毕业后保送日本士官学校并于次年（1926年）毕业。

    另一支劲旅是孙连仲的第二集团军，这支部队原系冯玉祥西北军的队伍，虽然实力比不过汤恩伯的第二十军团，但至少也可以被列入“第二等”。第二集团军名义上有两军（田镇南第三十军、冯安邦第四十二军），但因为之前刚参加山西会战，当时可参战的部队实际上只有三师（黄樵松第二十七师、张金照第三十师、池峰城第三十一师）。

    正因为日军的骄横，李宗仁决心要打一个“不大不小的胜仗”，在他的计划中，善于防守的孙连仲部被派往台儿庄，将日军主力诱至该处并予以打击后，再乘日军疲惫之时，由汤恩伯所部及其他外围军队出击包围，实施歼灭。后来战局的发展，虽如他的所料，但其中的艰难与牺牲，取胜的时机间不容发，实在来之不易。

    台儿庄是徐州东北方向六十里的战略要地，其北连津浦路，南接陇海路，西临大运河，正好位于津浦路台枣（庄）支线和台潍（坊）公路的交叉点上，当矶谷师团攻下滕县后，计划与绕道台潍公路的板垣师团在此会师，最后合攻徐州。因此，台儿庄也成为保卫徐州的最后一个门户。

    在得知中国军队布防台儿庄后，矶谷师团沿津浦路突入枣庄，随后又沿着临枣支线占领峄县，据当地游击队员的报告：“矶谷师团约三四万人，配有山炮、野炮、重炮不下百余门，上有飞机掩护，下有坦克、装甲车七八十辆开路，并有骑兵部队担任两翼搜索，杀气腾腾，直奔台儿庄方向前进。”

    此时，孙连仲所部的池峰城第三十一师已于3月21日渡过运河，布防台儿庄，其他部队则布置外围，汤恩伯的第二十军团让开津浦路正面，撤入临近的姑婆山区隐蔽，待机而动。3月23日，矶谷师团的濑谷支队已开至台儿庄外，以超过一个旅团的兵力展开进攻，炮声几乎传到了六十里外的徐州（据李宗仁所叙）。

    日军自以为有强大的炮火支援，可以摧毁前进道路上的任何阻碍，但在台儿庄却碰到了一块坚硬的石壁，因为台儿庄一带盛产石块，房屋大都是叠石而造，因而每一栋房屋都是一个坚固的堡垒，尽管日军以炮火强轰、以坦克开道，但进展远不如他们想象的那样顺利。