日军在1937年华北与华中地区的战役获得胜利后察觉国民政府并未如原本预想的失去战力求和，反而是将首都内迁冀求长期战争胜利，因此日本陆军一方面将军队从16师扩张到22师45万人，同时策划新攻势希望打通津浦线(今京沪铁路)将南北占领区连成一块，并强迫国府军在无险可守的四战之地徐州进行大规模决战以歼灭当时内迁的蒋中正政府底下所属战力。

原先日军的构想是在扩军完成后的1938年夏季发动新一波攻势，为此日本参谋本部在2月16日的御前会议时先向天皇汇报其作战意图，同时向前线部队告知作战方针并划出防卫纵深圈，并派遣倾向不扩大现有事端的作战科长河边虎四郎上校前往中国对底下部队进行协调。3月，日军参谋本部同意第二军增加部分兵力，但须遵守不得超越临沂、枣庄之线，前线日军却无视上级命令，第十师团擅自向南推进，从济南发兵朝西南方的济宁市进攻，第五师团则派出一个营的兵力朝济南东南方的临沂市助攻，在协调无用下河边虎四郎遭到撤换，继任的稻田正纯下达了新的意向，同意第十师团歼灭山东省大运河一线的国军。

徐州在津浦铁路(天津—浦口)和陇海铁路(兰州-连云港)交叉点，国民政府第五战区总部。

台儿庄位于徐州东北30公里的大运河北岸，与徐州东北的邳县(今邳州市)接壤，扼守运河的咽喉。桂系将领第五战区司令李宗仁与时任国军副参谋总长兼军训部长的白崇禧合作指挥国民革命军将两路日军分别阻止在山东临沂和台儿庄。

由于日军的作战并未协调，这种以少量兵力孤军深入的作法反而遭到国军利用，第五战区指挥官李宗仁看准时机调派了其手下的20%兵力到台儿庄周边冀求一举全歼南侵日军，除了各派系的部队以外，军委会甚至抽调了大部分150榴与反战车炮前去增强战区火力，以事后来看这项作为让国府军取得了部分火力优势。

国军150毫米重炮，射程远，威力惊人，精度很高。德军在二战中也大量使用这种火炮，一共生产了5400门。可惜国军这种火炮太少，在台儿庄协助防御的仅有2门，起不到太大作用(全中国仅仅有40多门，而第一批购买的24门重炮居然耗费了高达900万马克的巨款，倾尽了全国的财力)

参战部队