十月二十三日，各路大军从陕州出发。仆固怀恩和回纥左杀（东翼王）率军为先锋，陕州节度使郭英乂和神策军观军容使鱼朝恩为后军，从渑池进入敌占区；潞泽节度使李抱玉率军从河阳南下；河南等道副元帅李光弼率军从陈留进入敌占区；雍王李适留守陕州。二十六日，仆固怀恩等军进驻同轨（今河南省洛宁县东）。

史朝义听说唐军大举进攻的消息，即召集众将商议对策。阿史那承庆说：“唐朝如果只派汉军前来，我们当倾巢出动，与之决一死战；如果与回纥军队一起前来，其锋芒不可抵挡，应退守河阳暂避一下。”但史朝义不从。

二十七日，唐军和回纥军进抵洛阳北郊，分出一部分兵力夺取怀州（今河南省沁阳市），次日，攻克怀州。

三十日，联军进驻在横水（洛阳北郊）。这里有数万叛军，构筑营垒抵御联军，仆固怀恩率军在西原列阵，与敌正面相向，又派遣精锐骑兵与回纥军队绕道南山，从敌人营垒的东北面向敌人发起猛烈的进攻，两支军队左右夹击，大破叛军。史朝义派遣十万精兵赶来救援，驻扎在昭觉寺，联军乘胜进击，杀伤了很多敌人，但并未突破敌阵；鱼朝恩派五百射生苦战，敌人纷纷中箭倒下，可是敌阵依然未被撕开口子。镇西节度使马璘见状，说道：“事情危急了！”遂单人匹马杀进敌阵之中，夺取敌人两个盾牌，顺势突入敌人坚固的阵中，于万众之中左冲右突，他身边的敌人纷纷倒下。马璘这一冲击，大军顺着他撕开的口子就冲入了敌阵，敌人阵脚一开，就全乱了，遂大败。两军又继续在石榴园、老君庙激战，敌人又被击败。兵败如山倒，叛军相互践踏，掉入山谷的不计其数，被斩杀了六万余人，被俘两万余人，史朝义只率领数百骑兵向东逃去。仆固怀恩乘胜又攻克了洛阳和河阳城，抓获敌人中书令许叔冀、王伷等人，以皇帝之命将其释放。仆固怀恩留在回纥可汗在河阳（今河南省孟州市）的大营，命儿子右厢兵马使仆固玚和朔方兵马使高辅成率领一万多步骑兵追击史朝义，一直追到郑州，连战连胜。史朝义逃到汴州，其陈留节度使张献诚闭门不纳，史朝义只好北逃到濮州，张献诚开门投降了唐军。

回纥军队进入东京洛阳之后，大肆劫掠杀戮，又杀死了一万多平民，东京大火烧了数十天不灭。与回纥军队一样，唐军也认为他们来到的是敌占区，所到之处也是肆意劫掠，一直持续了三个多月，东京、郑州、汴州、汝州等人居民房屋全部被摧毁，百姓的财物悉数被抢走，人们连身上穿的衣服全都被劫去，只能以纸张披在身上。回纥军队把抢来的财物都集中在河阳，留下部将安恪率军看守。

史朝义从濮州北渡黄河，仆固怀恩进攻滑州，又在卫州击败史朝义。史朝义睢阳节度使田承嗣等率军四万余人与史朝义会合，再来阻击唐军。仆固玚率军将其击破，长驱直入，一直进抵昌乐（今河南省南乐县）以东。此时，叛军邺郡节度使薛嵩（高宗时名将薛仁贵之孙、前范阳平卢节度使薛楚玉之子）以相州、卫州、洺州、邢州向陈郑泽潞节度使李抱玉；敌恒阳节度使张忠志以恒州、赵州、深州、定州、易州向河东节度使辛云京投降。李抱玉等人均已接管了降军，薛嵩等人也都交出了军权，然而，不久以后，仆固怀恩又都命其官复原职。仆固怀恩之所以这么做，大约出于以下几点考虑：一是，唐军内部派系斗争。李抱玉原是李光弼的部将，本传记载：“乾元初，太尉李光弼引为偏裨，屡建勋绩，由是知名。”而仆固怀恩则与李光弼矛盾很深，史称：“怀恩心惮（李光弼）而颇不叶。”因此，李抱玉接管了薛嵩的地盘和军队，势力膨胀，自然是仆固怀恩所不愿意看到的。二是，与邻为壑思想作怪。仆固怀恩统领的朔方军大本营驻扎在汾州，与李抱玉的陈郑泽潞和辛云京的河东相邻，如果二人势力强大，势必会威胁到自己。三是，巩固个人实力。仆固怀恩原本在军中地位并不高，又是少数民族，风云际会让他成为实际意义上的唐军讨伐军总指挥，他要凭借这一机会最大可能地攫取个人利益，巩固自己的地位，因此，将河北降将拉拢到自己名下而不是把他们推给别人，这就成了他的必然选择。

到嘴里的肥肉被仆固怀恩拿去，李抱玉和辛云京当然十分不满，遂开始怀疑仆固怀恩的居心，他们各自上书向唐代宗汇报，提醒朝廷早做防备；仆固怀恩也上书辩解，唐代宗回信安慰勉励。十一月六日，唐代宗下诏称：“对于东京、河南、河北的所有伪官，一律不予追究。”