毛德祖兄弟过江较晚，毛德祖在北方的时候，曾经与公孙表是好朋友，他深知公孙表有权谋，因此，非常担心，于是，毛德祖想出了一条借刀杀人之计。他先是给公孙表写信，畅叙旧情，又秘密让人给奚斤透露消息说公孙表与毛德祖暗中来往，图谋不轨。毛德祖在每一封回信上，都故意在很多地方进行涂改。当奚斤问及此事时，公孙表将毛德祖的回信交给奚斤看，奚斤看到涂改得一塌糊涂的书信，不禁心生疑窦，于是，他秘密向邺城的拓跋嗣作了汇报。过去，公孙表奉命讨伐上党饥胡的时候，没有听从拓跋嗣的命令，与黄河南岸的后秦军队协同作战，致使魏军大败，拓跋嗣一直对此耿耿于怀；公孙表原来与太史令王亮是同僚，公孙表发迹以后，就再也看不起王亮了，令王亮非常气愤，这时，始昌子苏坦、太史令王亮上书拓跋嗣称，公孙表将部队驻扎在虎牢关以东，方向不对，故意让敌人苟延残喘。拓跋嗣素来笃信术数，他想到公孙表坚持要攻城，而攻城却迟迟不拔，士兵伤亡惨重，于是，一怒之下，他命令武士深夜在公孙表的大帐中将他勒死。公孙表死时64岁，拓跋嗣顾及到尚未撤军，对公孙表的死讯秘而不宣。
三月十八日，魏主拓跋嗣从灵昌津（河南省卫辉市东南古黄河上）渡过黄河，前往东郡（河南省濮阳县）、陈留（河南省开封市西北）巡视。
当时刘宋朝廷执政大臣们认为，项城距离魏军太近，宋军的轻装部队无法与魏军抗衡，命令豫州刺史刘粹将高道瑾从项城召回到寿春，如果沈叔狸也已经率部前突，也应予追回。刘粹上书说：“敌人正在进攻虎牢关，并没有再继续南下，如果匆忙撤回项城驻军，那么，淮河以西的郡县都会失去依靠。目前，沈叔狸已经驻扎在了淝口（东淝水汇入淮河河口），也不应该撤退。”当时，颍川太守李元德带着二百多名散兵从许昌退到了项城，于是，刘粹建议让其戴罪立功，协助高道瑾防守项城，朝廷最终也都同意了。不久，刘粹命令李元德率部西上，偷袭北魏任命的颍川太守庾龙，又收复了许昌。
此时的魏主拓跋嗣将注意力全部集中到一个点上，那就是虎牢关。三月二十七日，也就是李元德夺回许昌的同一天，拓跋嗣来到了孟津（河南省孟州市境），他对洛阳守将于栗磾说：“黄河之上能架桥吗？”于栗磾回答：“杜预架桥，他的事迹也足以令人怀念。”于是，他将大船串成一串，在黄河之上的冶阪津（河南省孟州市境）搭建了一座浮桥。三月二十八日，拓跋嗣率军北渡黄河，来到河内郡。在那里，他派遣并州刺史伊楼拔率军南下，协助奚斤攻击虎牢关。毛德祖依然固守着虎牢关，杀伤了很多魏军，而宋军将士也因伤病损失了不少。
就在毛德祖死守虎牢关的同时，东线的竺夔也在苦苦防守着东阳城。
三月，叔孙建率领三万骑兵进逼东阳城，城内文武官兵仅有一千五百多人，一半人还是羌族、蛮夷流民，城内一片恐慌。竺夔、垣苗全力防守，魏军刚到城下的当夜，竺夔派遣司马车宗率领五百人出城偷袭，将敌人击退。两天后，魏军主力全部抵达东阳城下，将东阳城包围了四层，阵营纵深达十余里，向宋军示威以后，到黄昏的时候，魏军又撤离东阳二十里以外，开始制造攻城器械，每天分出步骑军前来侵扰。竺夔看出敌人的出击路线，深夜命令殿中将军竺宗之、参军贾元龙等率领100人，提前在杨水口两岸设伏。第二天清晨，敌将阿伏斤率领三百人渡河，宋军伏兵一时俱起，杀伤敌人数十人，斩阿伏斤。不久以后，魏军又在距离东阳城西北四里的河南岸扎下了大营，准备将东阳城一口吃掉。
竺夔派人出城开挖了东西南三道壕沟，魏军在城北三百余步构筑了一道长墙。竺夔派参军闾茂等率领五十名神射手，依托敌人建的长墙朝魏军射击，魏军数百骑兵朝长墙扑来，敌人下马仰攻，城上宋军弓弩齐发，将敌人打散。魏军又将宋军城外的壕沟填埋，拖来四座瞭望射击高楼，二十辆虾蟆车放置到长墙以内。虾蟆车，当是轒辒的异称，是一种古代的攻城四轮战车，顶部以坚实的粗木料制成，上面覆盖着厚厚的犀牛皮，以抵御城上的滚木礌石，车内可以容纳十人左右，该车的用途是运送土石，以填埋城墙前的壕沟。竺夔提前在城北开挖了三条地道，通往城外的壕沟，在城内又开挖了内壕沟，在城外距离城墙两丈出还开挖了小壕沟，他派遣300多人从地道中突出，打算将敌人的攻城器械烧毁。不幸的是，当这支突击部队从城内杀出时，天上却刮起了旋风，无法点燃，魏军一阵砍杀，宋军死伤惨重，无功而返。魏军很快就将城外的三道壕沟填平，只剩下城墙根的小壕沟，由于虾蟆车难以接近还依然存在。魏军用撞车猛撞东阳城墙，竺夔命人在城上垂下大磨石砸撞车，又派人从地道中突出，在小壕沟内用粗绳将撞车捆住，掀翻毁坏。魏军又在城南构筑了长墙，攻势更加猛烈。竺夔谨慎，垣苗果决，因此，东阳城一直没有被敌人攻破。但是，经过长时间的战斗，东阳城墙开始崩塌，宋军士兵伤亡殆尽，形势十分危急。镇北将军檀道济率军进抵彭城以后，由于虎牢关与东阳城同时告急，而自己的部队人数又不足以兼顾两地，并且，东阳城距离较近，竺夔的兵力薄弱，于是，他决定与徐州刺史王懿一起火速北上，全力解救竺夔。
此时，魏军东路军的娥清、周几、闾大肥已经与叔孙建分军，这三人负责抢夺青州、兖州的土地，魏军先后进抵湖陆（山东省鱼台县）、高平（山东省巨野县）一线。高平民众屯聚在坞堡之内，朝魏军放箭，娥清大怒，命令闾大肥率领三千骑兵攻破高平所辖的高平、方与、任城、金乡、亢父等五县，屠杀了两千家，将男人杀死，掳掠妇孺上万人。兖州刺史郑顺之戍守在湖陆，因兵力太薄弱，只得眼睁睁地看着魏军的暴行而无所作为。冠军将军申宣戍守彭城，距离高平二百余里，他害怕魏军来袭，将外城和城外的居民全部转移到小城。
魏军一直在猛攻东阳城，将东阳北城城墙撞塌了三十多步。竺夔已经预料到城池很快就会陷落，已经命人在城内开挖地道，通往城外的涧水，作为退路。刁雍对叔孙建说：“此城已经拿下了，应当立即入城，要不城内守军将逃完了。”叔孙建却担心将士们伤亡，没有同意，刁雍又说：“如果你担心官军伤亡的话，我可以率领我的义兵率先进城。”但叔孙建还是拒绝了。而恰在这时，传来了檀道济、王懿的援军即将到来的消息，刁雍再次对叔孙建建议道：“敌人害怕我军的骑兵，所以才将战车用链子连接起来。大岘山以南山路崎岖，道路难行，请求让我率领本部五千人马，占据险要，可一举将其击败。”当时，已经到了夏季，魏军大多水土不服，不少将士生病。叔孙建说：“我军将士水土不服，一多半的人都得了传染病。如果继续相持不休，士兵们光生病就死光了，还说什么战斗！如今保全大军安全撤离，这才是上策！”四月三日，檀道济的援军进抵临朐，四月六日，魏军即焚烧营垒和攻城器械西撤，当天，檀道济所部进入东阳城内，但因军粮吃尽，城内也没有现成的粮食，于是，城内军民一起开挖深埋在底下洞窟内的存粮，洞窟深达数丈，等到取出粮食，将士们吃饱喝足以后，已经过去了两天两夜，敌人已经跑远，追也追不上了。竺夔看到东阳城已经非常残破，就将治所迁移到不其城（山东省即墨县西南、青岛崂山区西北）。竺夔以固守之功，进号前将军，封建陵县男，食邑四百户。
叔孙建率领的东路军离开东阳以后，即向西运动到滑台。檀道济自己驻军在湖陆（山东省鱼台县东南），命令王懿率军北上尹卯（山东省东阿东南）。王懿在行进途中听说魏军已经远去，就返军回到了湖陆，而刁雍趁机占领了尹卯，召集当地五千多家流民，设立了二十七个营寨。