日军大本营口头很硬，心里还是认识到这就是一场惨败，这是日本军队和日本政府所不能承受的羞辱。日军大本营此时已经无法在考虑战略上深入与分散的问题了，因为在华日军必须立刻击败中国军队，他们必须用一场胜利来证明“皇军无敌”的神话。

台儿庄战役的失败也震惊了日本天皇，他作出决定：迅速向中国大规模增加兵力，发动更大的进攻，誓报台儿庄战役惨败之仇。

为达到全歼徐州地区国军精锐部队的目的，四月中旬，侵华日军华北方面军和华中方面军从平、津、晋、绥、苏、皖一带纠集了是三个师团共约三十万兵力，这其中就包括了自徐州溃败以后重新集结并休整补充兵力之后的第五、第十师团，并另外配有各型重武器及飞机数百架。这些日军采取南北对进、侧翼迂回的战术，他们兵分六路对徐州形成了一个大包围圈，企图围歼云集在徐州附近的国军第五战区主力部队。

五十二军被紧急调往邳县，正是经过补充以后的日军再次向南进攻，伺机谋取围歼徐州地区五十万国军精锐部队的时候。

日军板垣师团进攻临沂不下，除派出庄野支队南下与矶谷师团会合，又继续派坂本旅团南下，这支部队已经到达枣庄东南面。矶谷师团因为进攻台儿庄失败，他们绕过台儿庄同坂垣师团的部队会合后，他们计划攻取邳县，然后越过陇海铁路南下，再取徐州。

第五十二军这次奉命防守的就是邳北燕子河、连防山至艾山以西一线，四月十六日，五十二军各部队陆续到达预定阵地。

四月十七日清晨，一四五团进入连防山。连防山是一个有将近四五百户人家的大村子，它的四周建有三米多高的土围子，土围子外边是建墙时取土所形成的壕沟，里面灌满了水。壕沟外是麦田，开阔平坦，视野极佳。村内有街道、商店等，很多房子是砖石结构，这种村子只要加筑工事，组织好火力网，应该很好坚守。