实际上，李唐重回并州的希望便渺茫了起来。
晋阳这样的北地大城，和长安，洛阳也差相仿佛，内里只要不乱，粮草充足，能被强攻而下的机率，非常的低。
晋阳略定，在晋阳很多官吏向来，应该趁势南下，攻略河东诸郡的时候，李破终于将一切杂事都抛给了陈孝意等人，开始专心致志的准备北行之事了。
在他的军令之下，代州三郡所有的骑兵，都在向马邑汇聚。
粮草军械，在马邑郡城当中，堆积如山。
大业十四年六月末尾，李破率军从晋阳起行北去。
七月初，到雁门，令幽州军尽快成军，赶赴晋阳，并任命宇文歆为雁门太守，又令李碧主掌雁门兵权。
两万余唐军俘虏，此时已按照李破的军令，汰弱留强，成一万五千人，留在雁门整日操练，将来这些人马也许就是驻守各处要害的城防军了。
李破在雁门停驻两天，率兵北上马邑。
马邑郡城此时俨然已经成了一个大兵营，郡城周遭，皆是连绵不绝的兵营，各色旗帜，飘扬在军营之上，人喊马嘶，彻夜不绝。
此时，代州骑兵大军皆聚于马邑，经过多次扩军，骑兵军旅已至两万五千众。