所部休整的时候，日军那边也没有闲着。在大本营的干预下，侵华日军总司令官烟俊六重组华北方面军，依然由冈村宁次担任华北方面军司令官，华北方面军的主力是由冈村宁次的驻河南第一军以及驻山土桥一次中将的第十二军以及方面军直属部队组成。
方面军司令部设在济南，新的辖区包括整个山东半岛、苏北、安徽以及河南的一部分，虽然比以前的华北方面军所控制的地盘小了不少，但是部队的兵力全是增加了不少。
重组之后的华北方面军下辖14个步兵师团、6个独立方面混成旅团、1个战车师团、1个骑兵师团、2个野战重炮旅团，另外还有一支小型海岸巡逻队，总兵力33万人。
此外日军还对马良、齐燮元、蔡雄飞的伪军进行了调整和扩编，统一整编为伪华北绥靖军，合计3个集团军9个军18个师15万人。
再加上一些直属的宪兵队、情报部门的行动队、特种部队等，截止42年2月中旬的时候，华北方面军总兵力已经达到了50万人以上。
鉴于伪军地位低下，经常受到日军的打骂和惩罚，严重影响部队的战斗力和对皇军的忠诚。因此冈村宁次特意提高了伪军的地位，使得山东境内的日伪军的斗志陡然间增加了不少。