经李光弼下令，唐军迅速将洛阳城内的官吏、百姓、钱粮、武器、辎重等全部搬取一空，所有人迁徙至河阳，于该地重设军营。不出李光弼所料，志在夺取江淮，掐断唐军粮道的史思明见唐军移军至河阳，摆出要攻打河北的姿态，果然投鼠忌器，不得不紧急叫停东南的战事，带领所有燕军昼夜兼程向西赶来。等燕军抵达洛阳时，城内早已空空如也，唐军的举城大迁徙进行得非常彻底，连一个人、一匹布都没留下。史思明见状大怒，进驻洛阳的第二日，他留下少数军队镇守东京，又亲率主力继续追赶李光弼至河阳城下。
如李光弼在战前所言，河阳（在今河南省孟州市）境内共有三座城池，北边的史称河阳北城，建在黄河北岸，南边的史称河阳南城，建在黄河南岸，中间的那座城池史称中洋城，建在黄河中央的一座小岛上，三城之间以浮桥相连。史思明抵达河阳后，派人在南城城外搦战，李光弼观察过燕军阵容，严戒唐军道：“叛军初来乍到，士气正锐，所有人只需坚守城池，无本元帅命令，任何人不得出战！”
史思明搦战数日，见唐军坚守不出，怒气愈盛。其帐下骁将刘龙仙提议：“陛下可令大军后撤，仅授我数百骑兵前往城下谩骂，想那李光弼身为大唐元帅，绝对受不了这等屈辱。末将武艺盖世，唐军若派小队人马出城，绝对不是我的对手，等他们大举杀出，您再派兵前来增援。”史思明从其言，拨出数百名精骑簇拥着刘仙龙去了。刘仙龙到城下后，见李光弼正在城楼上督战，当即使出浑身解数，什么话难听骂什么，把李光弼祖上三辈都问候了一遍。骂了一阵，刘仙龙见李光弼依然没有出战之意，仗着自己骑术精湛，干脆把双脚翘起，架在马头上，同时身体向后仰倒，睡着马背上—果真是骂人高手，就算躺着也能骂。
李光弼再是能忍，这下也终于受不了了。他问身后众将道：“谁能出城，替我将这狂妄之徒的首级带回来？”仆固怀恩听了，当即手持兵器，欲待出城。李光弼连忙一把拉住他道：“你是我最倚重的大将，这等小事不值得你去犯险。”这时，又有一员小将上前请缨道：“我孤身一人前往，定替元帅取敌将首级！”李光弼询问左右：“此人叫甚名字，武艺如何？”左右回道：“此人名叫白孝德，虽是军中卑将，但武艺非凡，可以胜任。”李光弼仍不放心，问白孝德道：“敌将身后有数百骑兵，你若单骑出战，只怕杀敌不成反而枉送了性命，你要多少兵马只管开口。”白孝德坚持只要一人出战。李光弼想了想道：“那待会你出城之后，我派五十名骑兵远远跟着你，替你助威，你若得手，他们就一齐上前接应。”
二人商议定了，白孝德单枪匹马，率先出城。仆固怀恩同为猛将，看着他身影逐渐远去，提前祝贺李光弼道：“白孝德此去，一定能取胜。”李光弼生平从不与人单挑，自然也不能理解仆固怀恩为何如此自信，他问对方：“你的判断有何依据？”仆固怀恩笑道：“您看他骑马的姿势就知道了，强敌当前，竟然如此从容不迫，沉着冷静，哪用得着担心他会失手呢？”
二人在城楼上交谈之际，城下，白孝德已骑着马来到刘仙龙面前。刘仙龙自负勇力和帮手众多，对白孝德非常轻视，大骂对方道：“哪来的无名鼠辈，竟敢与本将交手！”不防才交手了一招，他就赫然发觉不是对手，转身落荒而逃。白孝德纵马追上，大喝一声，手中长矛刺出，刘仙龙惨叫一声，血溅当场。白孝德当着数百燕军的面从容跳下马背，拔出腰刀将刘仙龙的头颅割下带走，燕军目瞪口呆地看着他扬长而去，无人敢上前拦阻。
刘仙龙为其狂妄付出了昂贵的代价，助白孝德一战成名。不过他的死，也愈发让史思明确信了一个真理：那就是李光弼被人指着鼻子骂半天都不敢派兵出城，最后还是用单挑解决问题，显然连他自己都清楚他以守城见长，而不善于野战。于是对史思明而言，这一战该怎么打就简单多了，接下来他只要把心思花在一件事上—即如何逼李光弼出战。
史思明统治河北期间，常派人前往塞外寻访好马，经他重金收购，陆续得上好战马一千余匹。这些马体魄雄壮，威猛无匹，作战时就宛如雄狮一般横冲直撞，从不知畏惧。史思明心道李光弼身为大将，定也是爱马之人，他遂下令属下：“把这些好马全牵出来，让它们在临近河阳南城的黄河岸边吃草、洗浴；同时，我军暗设数千伏兵于牧马之地附近，倘若李光弼胆敢率军前来夺马，就一举杀出，让他有来有回！
燕军众将听后，都觉得这主意不错，如果李光弼果真前来夺马，那是最好；即便他不来，燕军也没任何损失，而且能藉此彰显实力。数日后，燕军遵从史思明的命令，牵着千余匹好马来到黄河岸边放牧。南城守军看见这一幕，急忙向主帅李光弼汇报。李光弼率众将登高远眺，他当然是识货的，眼见那些马无一不是万里挑一的极品，嫉妒得忍不住流下了口水：“好马，好马啊！”仆固怀恩等人也猛地点头，连声价地夸赞这些战马不同凡响，有人便建议李光弼派兵出城，去把这些战马全抢回来。李光弼想了想，摇头道：“不可，史思明在我军面前炫耀他有如此多的好马，其意正是想引诱我军出战，我若派兵前去争夺，牧马之地附近必有伏兵出现。”唐军众将得主帅点破史思明的阴谋，人人都变得严肃起来，不敢再打这些好马的主意。
李光弼等人在城头看燕军牧马整整一日，到黄昏时分才依依不舍的回去。这事传到史思明耳中，史思明喜上心头：看来有戏，明天接着把马牵出去放牧，馋死他们！于是在这之后，燕军每日都把好马牵出去放牧，早出晚归，周而复始。唐军顾忌对方有伏兵，一开始还忍得了，多日下来，有部分将领逐渐抵挡不住“大量好马就在眼前，可看而不可得”的精神折磨，再次建议李光弼派兵出城夺马—说不定对方压根就没伏兵，是元帅多虑了呢；退一步说，就算他们真有伏兵，我们抢了马就跑，敌军也未必追得上。
李光弼用兵向来谨细，没有百分百把握的事他绝不去做，这从他不敢去汴州，宁可顶着朝廷、舆论的双重压力也要把战场改设在河阳就可看出。和众将一样，他也被史思明的“牧马计”勾得心痒已久，恨不能立即把那些马一匹不少全抢回来；但是他更明白，即使再好的千里马，终究只是畜生，与他手下士兵的生命相比，不堪一提。
—马，我想要，士兵，我不想让他们冒险。那么，有没有什么奇策，能够不派大军出城，就把那些马给抢回来呢？
—嘿，有了，李牧将军使过的这招正好派上用场。不过，今日形势与当日不同，当初匈奴人中计是他们毫无防备，今日燕军对这些战马视若珍宝，在牧马之时定看守得极严。看来我还得把李将军的计策再稍作润色一番…
李光弼筹谋已定，下令众将集合。将领们到后，李光弼命令他们道：“难道就他史思明有马吗—你等立即前往军中，也给我挑一千匹马出来！”将领们面面相觑，答主帅道：“我军马虽不少，但品质能和那些好马相媲美的，恐怕十匹也挑不出来。”李光弼得意一笑，挥手道：“谁让你们去挑好马了？听着，我只要母马，而且只要刚产了小马驹还没断奶的母马，明白了吗？这种马，大的、小的，我各要五百匹，如果南城不多，你等就去北城找，还不够，那就张榜高价收购，从附近百姓的手中买一些！”
将领们这才松了口气，这个要求虽然也有些苛刻，但比让他们临时凑齐一千匹千里马还是容易得多。更让众将喜出望外的是，他们刚把买马的告示一张贴出去，许多当地百姓就牵着一大一小两匹马来求他们收购。原因很简单：刚产了崽的母马，不能干活、不能驼人、吃得草料还特别多，完全是个赔钱货。现在军官们愿意高价收购这种马，换作平日哪有这种好事—“军爷们，小马驹不要钱，买一送一啦。”
很快，五百匹母马，五百匹小马驹，总计一千匹马如数凑齐了。