郑州失守后，北洋集团大为惊恐，在洛阳的北洋军58师原本就快要抵挡不住熊克武部和预备四师的进攻，在得知郑州陷落的消息之后，58师上下人心惶惶，兵无战心，士气极为低落，预备四师又连续发动了两天的猛攻，58师终于抵挡不住，残部作鸟兽散，师长王承斌更是死于乱兵之中。
洛阳的丢失，让屯兵潼关的曹锟部如坐针毡，直接面临东西两面夹击的危险境地，曹锟想得很清楚，在北伐军还没有来得及从东西两面夹击的空档中，他便让吴佩孚带人秘密在黄河渡口搭建简易桥浮桥，连夜从潼关从仓惶撤退到黄河以北地区，并同时派人在黄河沿岸监视北伐军的动静，尽管此时黄河水位有些高，可他也顾不了许多了，他可不认为仅凭自己受伤不到两个师的兵力可以抵挡东西两面的加急。
8月24日，北伐军全面占领除去山东境内的黄河下游地区，西线战场、中路战场和东线战场连成一条线。
8月27日，南京发出命令，西路军蔡锷部留下两个新的整编师驻防，蔡锷部渡过黄河向山西境内逼进。经过短暂休整的中路军受命继续北进和东进，渡过黄河先后攻占新乡、鹤壁和濮阳等地，至此北洋集团在河南境内的势力全部被铲除。
面对北伐军的步步紧逼，袁世凯不得不紧急抽调第3、12、13、四个师火速南下与原有的第10师、17师残部一起迎战蔡锷。又从东线战场抽调15、16、60、61师向西运动到曹县、东明、甄城、梁山一线布防，防止中路军攻击东线北洋军防线的侧翼。
除此之外，袁世凯又命令将62师、63师和66师从河北中北部移动到阳谷、大名一线。防止北伐中路军继续北进突入河北境内。
与北洋军越打越少不同的是北伐中路军越打越多，熊克武部已经回归到西路军建制，中路军张孝准能指挥的有26师、31师、预备四师、湘军43师、暂编91、92、93、94师，一共八个师的兵力，在兵力上比东线战场蔡国栋能指挥的部队还要多。
北洋军在东线战场抽调走四个师指挥，防线上终于出现了漏洞，这让东线战场负责指挥安徽北部作战的伍世友发现了战机。他发现驻防在鱼台的北洋军只剩下一个71师，这个是个新编练而成的部队。新兵训练都来不及完成就被派上了战场。
得到情报指挥的伍世友当即向蔡国栋请战，蔡国栋经过仔细推敲指挥很快就同意了伍世友的作战计划。
8月29日，伍世友命令自己最精锐部队之一的29师率先向驻防鱼台的北洋军71师发起攻击，东线战场正式打响。这是自北伐开战以来，东线战场打的第一仗。
29师不愧是华东12个整编正规师的其中一支部队，它的战斗力绝对不是预备四个师和其他各省地方军队能比的。
战斗只进行了一个上午，29师只用了一个团的兵力就全线击溃了71师的全部防线，71师残部仓惶向后撤退至金乡，于此同时，已经进入无人防守的商丘的32师也向单县进军，单县只有15师一旅，在得知32师正在向单县进军之后。15师第一旅立即在城外修筑防御堑壕，可是对于已经实现了驮马化的华东军而言，15师修建堑壕的速度也太慢了。堑壕还没有挖掘完成，32师就已经打到了跟前，15师一旅仓惶之间不得不撤往城内防守，师部分配的一个山炮营也来不及转移而被迫扔在了城外被32师俘获。
当得知1旅遭到攻击之后，驻防在曹县的15师2旅立即派出一个团前来增援，可惜这点兵力对于32师这种精锐部队根本不够看的。32师分出一部分兵力围困单县，用大部队埋伏了前来增援的15师2旅1团。这个团在一个上午的时间里全数被围歼。
失去了炮兵部队的15师1旅被围困在单县城内惶惶不可终日，在32师铺天盖地的炮火打击下，城防部队损失惨重，又在32师连续两天的攻击之后，剩下两千余人强行突围在损失了大量人员后，只剩下一千两百多人向东北方向的金乡撤退，将自己的师长丢在了西南面的曹县。
身在曹县的15师师长刘询只剩下一个团的步兵，除此之外还有一个骑兵团、一个工兵营、辎重营、一个炮兵营。在第1旅被围困在单县的时候，刘询根本无法进行增援，只能眼睁睁看着第1旅被围攻，只因他手上的兵力太少，兵力太过分散。
正所谓牵一发而动全身，以刘询手上现有的兵力和火力根本无法抵挡32师的兵锋，在权衡之后，刘询向冯国璋发电请求向后撤退到金乡，冯国璋也考虑到以刘询现在兵力根本不是32师的对手，为了避免32师被吃掉，冯国璋命令刘询撤退到菏泽与王廷祯的16师和60师的曹瑛部互为犄角，这三个师恰好分布在一个三角形的三个角上，主要其中一部遭到攻击，另外两个师可以随时增援。
攻占鱼台的29师继续进军，躲在金乡的71师残部和15师一千多人在金乡勉强抵挡了两日后不得不一直撤退到济宁才算站稳脚跟，但由于71师和15师一部的大幅度撤退，给北伐军东路军制造了一个十分有利的战机。
没有了71师残部的牵制，29师立即挥师东进，在微山湖畔收集了大量的渔船，一个团的兵力以迅雷不及掩耳之势攻占了微山湖东面的微山县城站稳了脚跟。冯国璋全然没有防备29师竟然会利用微山湖上的渔船渡过南北走向的微山湖。
在得知微山县城失守的消息之后，冯国璋大惊失色，他立即调兵想抢回微山。但此时29师大部队已经渡过微山湖，就连重武器都全数运了过来，原本均衡对峙的局面终于被打破了，29师攻击了北洋军东线战场的西面侧翼，这让冯国璋措手不及。