拓跋焘采取了诱敌深入的策略，因黄河以南洛阳、虎牢、滑台、碻磝四座军镇魏军人数较少，他下令放弃黄河以南的土地，将守军全部撤回到黄河以北。七月四日，碻磝魏军撤离，十四日，滑台魏军撤离，二十六日，虎牢和洛阳的魏军也都弃城北撤。
于是，宋军不战而得到了黄河以南的土地，到彦之命令朱序之孙朱修之镇守滑台，尹冲镇守虎牢，杜预的玄孙杜骥镇守洛阳。宋军直抵灵昌津（即延津，河南省汲县古黄河渡口），在黄河南岸依此构筑堡垒，自东向西一直绵延到潼关。于是，司州、兖州全部落入宋军之手，大家都喜出望外，只有安北将军王仲德面露忧色，他说：“各位将军对北方的情况并不熟悉，肯定要落进敌人的圈套。敌人虽然不讲仁义，但却非常狡诈，现在别看他们撤出黄河以南北去，肯定是在集结兵力，等到黄河河面结冰以后，一定还会南下，岂能不让人忧虑呢！”
果然不出王仲德所料，拓跋焘丝毫没有闲着，他不仅任命杜超为相州刺史，统领诸军，到了八月，拓跋焘加封镇守蒲坂的安颉为冠军将军，命令他统帅诸军进攻宋军。战斗在西线最先展开。八月十二日，到彦之派遣部将姚耸夫率军渡过了黄河，进攻冶坂（河南省孟州市西北黄河北岸），宋军与安颉率领的魏军激战，姚耸夫战败，宋军伤亡惨重，被斩杀了三千多人，（《魏书·世祖本纪》记作“斩首五千级”，此处据《魏书·安颉传》）更多的人则投河而死。八月二十日，拓跋焘另派征西大将军长孙道生率军与丹阳王拓跋大毗会合，一起驻守黄河北岸，防御宋军北上。
宋军北伐也刺激了夏主赫连定收复失地的欲望。赫连定年少的时候，凶残无赖，其父赫连勃勃对他并不看好，如今，他遥望统万城，泪流满面说：“先帝如果让我继承大业的话，岂能有今日之事啊！”
九月六日，夏主赫连定命令弟弟赫连谓以代率军进攻北魏鄜城（陕西省洛川县东南），北魏平西将军、始平公拓跋隗归等率军迎击，斩杀一万多人，赫连谓以代逃回。夏主赫连定留下弟弟、上谷公赫连社干、广阳公赫连洛孤驻守平凉，他亲自率领数万人马前突到鄜城以东截击拓跋隗归，并向宋军派出使者求和，约定一起合击北魏，中分黄河以北：自太行山以东的土地归刘宋，以西归夏国。始平公拓跋隗归生平不详，但数十年以后，在洛阳龙门篆刻的《比丘慧成为亡父洛州刺史始平公造像记》，似乎多多少少与他产生了一些联系，《始平公造像记》被誉为“龙门二十品”中的极品，是北魏书法艺术的杰出代表。
拓跋焘听说赫连夏与刘宋约定中分黄河以北，即决定整顿军队，发兵先讨伐赫连定。北魏群臣纷纷说道：“宋军尚在黄河之上，我们却弃之不顾，西进打击夏军，而夏军不一定能被消灭，如果宋军再趁虚北上，则河北之地就危险了。”拓跋焘犹豫不定，遂询问崔浩。
崔浩说：“赫连定与刘义隆同恶相互招引，东连北燕，召唤柔然，远隔千山万水，互相结援，只是口头上一唱一和，刘义隆想让赫连定进攻，而赫连定则想让刘义隆前进，都不敢先向我进攻。根据我的观察，这就好比是连在一起的公鸡，只能让二者都飞不起来，却不能对我有什么损害。我当初判断，宋军进抵黄河以后，会兵分两路北上，东线直扑冀州，西线直冲邺城，如果这样的话，陛下就要亲自走一趟了。如今则不然，宋军一字排开，东西绵延两千里地，每一处不过安放了数千人马，兵力分散，力量薄弱。以此判断，宋军不过是为了依托黄河固守，不死就万幸了，根本没有北渡黄河的打算。赫连定残兵败将，容易被消灭，打击夏军一定能够胜利。击败夏军以后，我东出潼关，席卷而前，必定会威震南方，江淮之间再无一根站立之草。陛下的真知灼见，非一般智商的人能理解，请陛下西行，不要迟疑了。”
九月二十一日，拓跋焘率军进入统万城，率军袭击夏国老巢平凉，并以王建之子、卫兵将军王斤镇守蒲坂。
果然不出崔浩所料，在魏军优先将进攻方向用于消灭夏国之时，刘宋军队却毫无所为，宋军主帅到彦之、王仲德等人在布置好黄河防线以后，不仅没有集中兵力趁虚渡河北上，相反却回到了东平。
然而，就在拓跋焘率领主力部队西进平凉之时，沿黄河一线的魏军也完成了攻击准备，开始对宋军发起了反攻。十月二十二日，北魏冠军将军安颉率军从委粟津渡过了黄河，向驻守在金墉城内的宋军发起了进攻。委粟津，一般注为在今河南省范县境内，但据《明史·地理志》记载：“孟津府东北。旧治在县东……西北有大河，又西有硖石津，又西有委粟津，又有高渚、马渚、陶渚，皆大河津济处。”因此，应在洛阳西北，且根据安颉所部的位置，也决不会弃守洛阳黄河以北，远出东方，再渡过黄河，千里迢迢回到洛阳战场。
金墉城年久失修，已经残破不堪，而且，这里又没有存粮，经过数月跋涉的宋军此时也没有多少粮食了，驻守洛阳的杜骥盘算着弃城而逃，但又唯恐因此被下狱，正巧，当初刘裕灭秦时将后秦的大钟迁往江南，有一只大钟沉到了黄河内，这时，刘义隆命令姚耸夫率领一千五百人前来打捞。于是，杜骥对姚耸夫撒谎说：“金墉城已经整修完毕，粮食也非常充裕，只是缺乏人手。现在敌人南下，我们应当齐心协力抵御敌人，等将敌人击退以后，再打捞大钟不迟。”
姚耸夫想想也对，就来到了金墉城，可是，等他来到以后，发现根本就不是那回事，金墉城根本没有固守的条件，于是，就率领部众匆匆而去，而杜骥也随之南逃了。
第二天，魏军攻克了金墉城，诛杀宋军将士五千多人。杜骥逃回后，恶人先告状，他向宋文帝报告说：“本来我是打算固守的，可是，姚耸夫来到以后，立刻就逃走了，致使军心涣散，再也无法控制了。”
宋文帝刘义隆听了，不禁大怒，当即命令建威将军郑顺之在寿阳将姚耸夫斩首示众。姚耸夫是一员猛将，在诸位偏将当中无人能及，到彦之北伐之时，姚耸夫曾亲手将拓跋焘的叔父拓跋英文斩杀，北魏用了一百匹马才将头颅换回。
攻陷洛阳以后，安颉继续扩大战果，他与龙骧将军陆俟一道进攻虎牢，二十八日，虎牢陷落，宋司州刺史尹冲跳城自杀、荥阳太守崔模投降。（《资治通鉴》称尹冲投降错误）
与此同时，东线魏军也完成了集结，河北各路魏军全部集中在七女津（疑在山东省东平县西北）准备渡河。到彦之担心魏军南渡，派遣偏将王蟠龙率军逆流而上，抢夺魏军船只，杜超派军将其斩杀。