此时第五战区在李宗仁将军的指挥下，也是积极调整部署，调集主力部队，准备在台儿庄一线，与日军进行决战，争取一举歼灭日军第十师团主力。
为了达到诱敌深入的目的，李长官决定让开津浦铁路正面，引诱第十师团孤军深入，于是下令临城的中**队，全部撤退。其中川军撤往徐州附近一带待命，汤恩伯之第20军团撤往兰陵及其西北云谷山区，诱敌深入，待机破敌。
急于立功的濑谷启率部离开了藤县之后，一路南下直扑临城，由于中**队主力已经撤退，临城守军只是象征性的抵抗了一下，也随即撤退。因此日军轻而易举的攻占了临城。
轻松拿下临城之后，濑谷启终于找回了一些自信，自大的以为中**队已经失去了抵抗的意志，于是继续率部一路南犯，企图直犯徐州。结果在运河沿线遭到了中**队第52军第二师的顽强抵抗。
而与此同时，矶谷廉介率领的另外一股日军，沿临赵（墩）铁路于20日攻占枣庄，21日攻占峄县城，矛头直指台儿庄。于是矶谷廉介改变策略，准备集中兵力进攻台儿庄，拿下台儿庄之后，在继续进攻徐州。
与此同时，徐州城内，第五战区司令长官部内，李宗仁长官召开紧急军事会