其次，张浚对陷入混乱的陕西军进行了整顿。此时陕西军中威望最高的将领莫过于曲端，在失去统一调度的时刻，曲端率领泾原军多次击败金、夏两军，成为陕西军新的精神支柱。张浚到后以曲端为宣州观察使、威武大将军、宣抚司都统制兼知渭州。登坛拜将时，军士欢声雷动，可见其地位。张浚又自己带来一个刘子羽，其父刘韐曾任河北河东宣抚副使，镇守真定府时壮烈牺牲，刘子羽扶柩回乡，誓与金人势不两立。其后刘子羽又顺利平定拥立张邦昌的武将范琼，被张浚视为奇才，作为军师带到陕西，任命为宣抚使司参赞军事。张浚又提拔了赵哲、刘锡、刘锜、吴玠、吴璘等年轻将领分掌陕西六路军，终于将陕西军重新整顿起来。陕西军本身的实力是非常强悍的，完全可以胜过鼎盛时期的金军，只是因为各种客观原因未能参战才造成靖康之难。张浚在整顿好这支主力军后踌躇满志，认为通过一次雷霆出击，一雪靖康之耻的机会就把握在自己手中。
建炎四年（金天会八年、西元1130年）春，娄室与撒离喝率军入关，曲端遣泾原路马步军副总管吴玠在彭原店（今陕西彬县）拒战。金军铁骑居高临下，俯冲吴玠步兵方阵，本以为胜券在握，未料现在才遇上真正的陕西军，像撞在铜墙铁壁上一般被撞得鼻青脸肿。继而吴玠一声令下，宋军劲弩和重步兵冲出，高傲的女真铁骑顿时陷入惨境。金军主将完颜撒离喝从来没见过在平原上正面力敌女真铁骑的步兵，一时不知所措，竟然害怕得当众大哭起来，后来被金军笑称为“啼哭郎君”。勉强逃脱的撒离喝与娄室合兵后，整军复战，吴玠消耗也很大，要求曲端立即增援。但是曲端又没有支援友军（我说的是“又”），吴玠挡不住大批金军，撤离彭原店。回来后曲吴二人相互弹劾，曲端官大一些，把吴玠降为知怀德军，但是张浚却通过此战看出了吴玠的才能，将其调任秦凤路副总管，并授忠州防御使。
有了彭原店大捷，本就信心十足的张浚更是信心爆棚，下令集结陕西六路军的主力部队，准备痛击金军，收复中原，甚至畅想到了收复幽云十六州和辽国故土。但是在参谋会议上却遭到曲端迎头一盆冷水，曲端认为必须准备充分后再出兵，此时出兵必败。张浚大为恼怒，问如果不败怎么说？曲端说如果不败自己愿输项上人头，两人居然在军中立下字据，这种看似小说中才会出现的小娃娃赌气场景竟然就发生在两位掌握国家前途命运的将相之间。事实上，高宗派张浚主政川陕时约好三年后出兵，后来又放宽至五年，现在还远远没到预定出击的时间。曲端这个人虽然总是不援助友军，但用兵谨慎还是对的。张浚大怒之下降曲端为海州团练副使，万州（今重庆市万州区）安置，合永兴帅吴玠、环庆帅赵哲、熙河帅刘锡、泾原帅刘锜、秦凤帅孙渥五路人马，号称四十万大军，向金军发起了全面反击。关于宋军的兵力，四十万是不可能的，据酷爱夸大对方兵力的《金史》记载宋军共有十八万，而且是包括了后勤部队和民夫，作战部队应该在十万左右。但这毕竟是陕西军所存的精华，而且宋军最后的骑兵部队也都在其中，可以说是宋军的家底，也难怪张浚会如此自信。
宋军首先向金军进攻，快速收复了长安、鄜延等重镇。娄室非常惊讶宋军会在秋季主动进攻，因为秋季恰恰是战马最彪悍、干草最充足的季节，宋军应该在战马最不耐热的夏季进攻才合理。娄室清楚自己的兵力决不足以抵抗集结起来的陕西军，向都元帅府请援。金帝国也充分认识到这是一场空前的大规模会战，全面收缩各方战线，以右副元帅讹里朵为主帅，签发了大量汉、契丹、渤海军入援陕西，并节制各路军马，统一指挥陕西会战。并将东路军的兀朮等部均调入陕西助战，金军主力仅留挞懒一部在东线牵制，参与陕西会战的金军主力大约也有十万左右作战部队。
张浚坐镇邠州，指挥大军向东继续开进，后勤部队大多从四川开来，绵延千里。宋军前军由名将刘仲武之子刘锡为总指挥，在耀州富平县（今陕西富平）遇到金军娄室部主力，金军也纷纷赶来集结，双方扎营准备会战。富平在关中平原东部，属平原地势，非常利于金军骑兵冲击，但也利于宋军摆开大阵，只要金军愿意正面硬拼，还是宋军胜算较大。关键问题在于宋军不能把弱点暴露在金军面前，否则迅猛的女真铁骑很容易抓住战场上转瞬即逝的机会。那宋军的弱点在哪儿呢？就是绵长的后勤补给线，尤其是众多民夫跟随在军中，如果被金军作为突破口，后果将不堪设想。对于此，宋军安排的阵形是将民夫放在右翼，由赵哲的环庆军保护，前有一片芦苇沼泽，金军重骑兵不能冲过；刘锡之弟刘锜率曲端调教出来最精锐的泾原军在左翼平原，准备和金军铁骑正面对抗，这个安排应该说还是有道理。
张浚在后方非常急切，宣布能生擒娄室者，平民可直接封节度使，并多次向金军下战书。但讹里朵和娄室始终保持冷静，一直没有贸然出兵，而是静候战机，张浚的幕府愈发自信。最后讹里朵终于同意九月二十四日决战！
二十四日辰时，宋军摆开早就设计好的大阵，开始向金军营寨推进。令人惊奇的是，刘锡的中军大帐居然升起了曲端的军旗！看来他的精神地位实在太高，以至于到了需要冒充他安定人心的地步。金军拖延许久才开门迎战，讹里朵和娄室坐镇中军，当时娄室已经患病，仍坚持不下火线。完颜阿离补率西路军组成左翼，对阵宋军右翼环庆军。四太子兀朮率领东路军、汉军、合扎猛安亲军组成右翼，对阵宋军最强的左翼刘锜部泾原军。兀朮的麾下也汇集了金军的精锐，其中有皇室直属的合扎猛安亲军，还有韩常的汉军万人队。韩常是一位极其罕见的武将，可以开三石硬弓，正史上只有宋将岳飞的个人武力能与其相当。此外更有金军最精锐的重甲骑兵团“铁浮屠”，铁浮屠也是人马均被重甲，如同一尊钢铁浮屠（浮屠就是佛教用语中塔的意思），武器是数十斤的狼牙棒，头顶尖角钢盔，堪称牛头人一族的最强战士，是与契丹铁林军、西夏铁鹞子齐名的经典重甲骑兵团。当然，也有一些考证认为铁浮屠不仅仅是骑兵，也包括装甲步兵。这些重甲兵的出现并不是历史的偶然，而是游牧民族跟随文明步伐的必然现象，汉民族在宋代连续面对了这三支经典重骑兵，这在面对匈奴、突厥的汉唐是难以想象的事情。
金军首先用出了“拐子马”的战术。所谓拐子马，就是以中军为轴心，两翼骑兵像拐子合拢一般强势包抄敌军的战术。这也是大规模骑兵作战的常见战术，但金军的拐子马中带有大量铁浮屠，所以分外厉害，自起兵反辽以来从无败绩。后世许多传说将拐子马描述成一种用钩索连在一起的连排重骑兵，甚至一马倒地，其余几匹跟着倒，这其实是不太现实的。宋军的步兵方阵在当时也是最强战阵之一，在宋辽战争中多次运用科学的方阵击败辽军骑兵，这一次金军左翼首先受阻于沼泽地，而更强大的右翼则必须要刘锜的泾原军从正面对抗。