中兴当自关陕始
张浚进入决策层后，首先提出要中兴国家，关键在于关中陕西。陕西军一直是宋军精锐所在，靖康之难中陕西军没能派上用场，一方面是宋廷轻信郭药师，让金军在华北平原上突击太快，陕西军来不及反应；另一方面是陕西军突入西夏的战线太长，受到牵制。现在宋廷彻底放弃了进攻西夏的战略，并与西夏议和，准备全力对抗金军。由于西夏在靖康之难后收复了很多国土，得到很多实惠，暂时也没有进攻的要求，于是同意谈和，宋廷终于可以集结陕西军反击金军。张浚以知枢密院事就任川陕宣抚处置使，赶到秦州主持军政。
从建炎元年开始，金军左元帅府娄室部多次进攻陕西，陕西在缺乏统一调度的情况下，遭到金、夏两国夹击，应付得非常艰苦。右武大夫、宁州观察使李彦仙驻守陕州（今河南三门峡），是中原进入关中平原的要冲，也是宋朝在关东的最后一座孤城。李彦仙在此坚守三年，有力的打击了金军，为张浚入主陕西留下了充裕的时间。
李彦仙这个人的来历比较复杂，本名李孝忠，是种师中部下，因上书弹劾李纲不知兵遭到追捕，易名李彦仙逃回陕西，被陕州守将李弥大收在帐下。建炎元年金军进攻陕州，经制使王燮不能抵抗，率部逃离，金军占领陕州，石壕尉李彦仙在城外三觜山聚众抵抗。李彦仙道：“我是外地人，并不是来守卫自己的祖坟，你们如果不奋勇抵抗，金人就会把你们的尸体丢在街上！”于是民众无不听从他的号令。金军来攻三觜山，李彦仙佯败诱敌，继而伏兵大起，斩首千余级，并趁势出兵攻占金军五十余个营砦。陕州城内有很多投降的宋人，李彦仙暗中联络这些人，内外夹攻，收复了陕州，周围的郡县也纷纷响应。高宗得报高兴的说：“李彦仙再三奏捷，朕高兴得睡不着觉。”任李彦仙为陕州安抚使，李彦仙将家属都迁来陕州，表示要举家与城共存亡。时人无不感念他的忠义，很多义军也愿意接受他的号令。
留在陕西的金将乌鲁撒拔屡遭李彦仙击败，建炎三年底，娄室亲率大军来攻。李彦仙在山西南部太行、吕梁、太岳三山的交汇处中条山设伏，大败金军，娄室仅以身免。但李彦仙知道娄室还将大举来攻，请张浚立即派兵牵制。果然，娄室让降将折可求率军十万来攻，分成十队，从建炎四年元旦起，每天一队轮流进攻，号称一月必克。李彦仙淡定如常，在城上作乐以示闲暇。金军使出各种招数攻城，被李彦仙一一化解，尤其是将佐宋炎异常神勇，一人便射杀千余敌兵。张浚传檄泾原都统制曲端赴援，曲端本是陕西军中现存威望最高的将领，但却嫉妒李彦仙升官比自己快，拒不出兵，张浚自己从长安出兵却又被金军阻截。
陕州围困逾年，城内粮草耗尽，李彦仙将豆子分给军士们食用，自己只饮豆汁，经过大小二百余战，杀伤无数敌军后终于不支。但娄室爱惜李彦仙的忠义才能，许以河南兵马元帅之职招降，李彦仙斩杀来使。娄室不甘心，又派人呼喊：“只要投降，不计前嫌！”李彦仙怒道：“吾宁为宋鬼，安用汝富贵为！”用强弩射死使者。娄室发起总攻，守城士卒已尽，金军攻入城内。李彦仙率众巷战，“矢集身如猬，左臂中刃不断，战愈力。”城内百姓也无不奋力抵抗，虽妇女也登屋顶掷瓦块击敌。娄室还是爱惜李彦仙，悬赏生擒，结果李彦仙换了衣服逃脱出城。正当李彦仙准备离去时却听说金军开始屠城，恸哭道：“金军之所以屠城，都是因为我坚守不下的原因，我没有面目再活了！”于是投河而死，年仅36岁。麾下数十员将吏全部壮烈殉国，无一人降敌。李彦仙卒后追赠为彰武军节度使，谥号忠烈，后改忠威，并在陕州立义烈庙，以纪念他的忠烈。
李彦仙在关东尽失的情况下，坚守陕州逾年，拖住了金军西进的步伐，为张浚重整陕西军赢得了时间。而陕州百姓的顽强抵抗也显示了人民的无比英勇，汉族人民并非某些人所说的像绵羊一样任随宰割，而正是因为尽全力抵抗所以才惨遭屠戮。
正是：
泪眼潼关路，我身献何处。
满城殉节义，无人肯相负。
别了！陕西军
张浚可能是宋朝历史上权力最大的地方官，朝廷基本上把川陕的一切处置权除了立法权都交给了他本人，在现有法制的范围内，川陕就是他的独立王国。比如说李彦仙死后追赠为节度使，就是张浚根据制度直接签发的，而没有上报朝廷。所以很多的人说宋朝限制地方官的权力，害怕他们坐大，这显然是不符合事实的。
所谓川陕，实际上是战国后期秦国的土地，川陕与中原相对隔离，有潼关、三峡之险，易守难攻。而关中平原和成都平原都是中国最富庶的地区之一，都曾有过“天府之国”的美誉，所以秦国占据此二处，才能并吞六国，完成统一大业，张浚也是准备以秦国模式兴复中原。到了成都，张浚主持公祭诸葛亮的武侯祠，以表从四川中兴的决心。
首先是要整顿财政，张浚任命财经高手赵开为随军转运使，总领四川财赋。赵开是四川本地人，既是财经高手，又熟悉当地情况，有“一趾步而能运百货，一咳唾而能济三军”的美誉。他执掌财权后没有增加税赋，而是通过市场运作的方法，在很短时间内改善了川陕宣抚司的财政条件，尤其是非常有创意的使用了“钱引”和通货膨胀的金融工具，为张浚融得了大笔资金。所谓钱引就是由国家发行，预支货币的记债式凭证，也就是现在的国债。当然，根据大卫李嘉图的“等价原理”，发行国债的成本不是国债利息，而是国债资金本身的机会成本，所以国债的成本就等于国债金额，实质上是一种隐性的税收，只不过人民在感情上比较容易接受。而南宋的货币已经纸币化，政府每年多发行一些纸币，通过缓慢的通货膨胀，可以隐性的增加财政收入并刺激经济增长而不引起市场的明显反应，现代国家无不使用这些金融工具。在战争年代，赵开通过市场化的运作方式，没有直接提税就提高了国家财力，又没有伤害人民群众的感情，无疑是南宋中兴的一大功臣，只是由于他从未带兵打仗，所以在历史上名气不大。试想如果明朝末年能够有一些类似的灵活财政手段，势必不会导致亡国亡天下的悲剧。