眼看吐谷浑冥顽不灵，忍无可忍的唐太宗终于决定出兵反击。便在松赞干布遣使向唐朝提亲的同年十月，唐朝任命左骁卫大将军段志玄为西海道行军总管，令他统骑兵数万，前往讨伐吐谷浑。段志玄率军抵达凉州后，轻易击败了前来犯边的敌军，然后尾随他们逃亡的路线，长驱直入八百里，一直推进到青海湖附近。唐太宗得报，大喜，又派人赶往前线催促段志玄，让他携旗开得胜之威，继续向吐谷浑的腹地展开进攻，务必擒拿伏允，降服该国。结果唐太宗的使者还没抵达前线，段志玄却已经带着军队在班师回长安的途中了。

唐太宗对段志玄“见好就收”的表现非常失望，等其回国，召他入殿当面训斥。段志玄委屈地解释道：“陛下，并非末将不愿一战灭亡吐谷浑，可是他们的臣民十分狡猾。之前，我军取胜之后，那吐谷浑的可汗伏允即下令该国的所有军队和牧民集体向西部的高原上退缩。我军将士刚接近高原，人人感觉呼吸艰难，头晕目眩，如果在这样的情况下与他们继续交战下去，很可能有全军覆没之险。所以末将才不得不自作主张，果断下令全军撤退。”

唐太宗知道段志玄有苦衷，于是准备宽恕他。哪知距离段志玄回国才过去半个月，凉州守将又送来急报：“吐谷浑欺段志玄无功而返，再次大举出兵入寇境内！”唐太宗大怒，下令削去段志玄的官职，贬为庶民，让大臣们举荐其他人为统帅，大举征伐吐谷浑。群臣奏道：“此战，除非用李靖为将，否则定会蹈段志玄的后尘—战胜吐谷浑不难，难的是无法确保完胜。”唐太宗摇头道：“难道没有别的合适人选了吗，朕虽然也知道李靖合适，但恐怕他这次上不了战场了。”

原来，李靖在攻灭突厥之后，就患了足疾，至今未愈。李靖因此上表朝廷，希望辞去宰相之职，告老还乡，得到了唐太宗的允准。加上这一年，李靖已经快六十五岁了，唐太宗担心他行动不便，不久前还专门赐给他一根用灵寿木（一种木材，有点像竹子）制成的手杖。—得靠拄着手杖才能走路的人，即便当年再是威风八面，岂能放心让他上阵杀敌呢？唐朝官员们也知道皇帝的顾虑，可是让他们举荐李靖之外的其他人，找来找去再也找不到合适的。—像尉迟敬德、程咬金这些人，临阵冲锋、斩将夺旗自然是好手，但让他们统帅一支大军克服气候、地利等不利因素，深入异国他乡，踏上高原与敌人斗智斗勇，这就非他们所长了。

说曹操，曹操到。李靖在家中听说皇帝为吐谷浑屡屡犯边之事发愁，急忙拄着拐杖，坐着马车来见唐太宗，主动请缨担任此战的主帅。唐太宗见李靖白发如雪，腿脚又不方便，对他的身体状况有些担忧，问他：“老将军患有足疾，真的能够替朕解忧吗？”李靖自信地答道：“臣的腿脚虽然有些不便，但骑上战马，与正常人无异，陛下对此大可放心。”唐太宗非常高兴，对李靖说道：“那就再劳烦老将军最后一次，今后朕即使御驾亲征，也绝不会让你亲涉疆场了。”

主帅人选既已确定，唐朝反击吐谷浑之战随之全面打响。该年十二月，经唐太宗调度，唐朝共集合了七路大军，远征青海高原。其中李靖担任西海道行军大总管，为唐军此战最高统帅，主力之外，另有兵部尚书侯君集、刑部尚书李道宗、凉州都督李大亮、右卫将军李道彦、利州刺史高甑生，以及突厥、铁勒等北方部落首领，各率一支偏师，相助李靖西征。

由于唐军的兵力众多，且人员构成复杂，李靖受封总督七军之重任，并未立即启程，而是封锁消息，秘密整饬军队，准备等到第二年春天再挥师西进。公元635年的春天，吐谷浑国主伏允又一次派兵进攻唐朝，并杀害唐洮州刺史孔长秀等多位官员。李靖得到这个消息，知道不能再等下去了，他下令高甑生、李道宗二人分率所部兵马率先出击，驱逐侵犯境内的敌军，同时寻找对方的主力所在。

高甑生、李道宗不负众望，二人先后与吐谷浑以及附从该国的塞外羌人交战，皆取得大捷。吐谷浑可汗伏允对此本不以为然，然而不久后他得败兵相告：“高甑生、李道宗二人，只是唐军的先锋将领，其真正的统帅，是数年前攻灭突厥国的名将李靖。”伏允可汗久仰李靖的威名，对他颇有惧意，与天柱王等人商议，应该和上一战一样，赶紧带着军队和牧民逃往西方，以避开唐军的锋芒。天柱王认为这样还不保险，补充说道：“李靖的才能和胆量都比段志玄要强得多，如果就这样逃走，只怕李靖会尾随追来。唐军此战，军中以骑兵居多，骑兵离不开战马，战马离不开草地。小王建议可汗在撤军之前，先下令将附近的草地全部毁掉。”

伏允可汗听从该计，下令国人把该国东部的草地全部烧成灰烬，从而执行坚壁清野的战术。由于这一年的冬天特别寒冷，吐谷浑境内多是干草，青草迟迟未萌生，一把火下去，很快成燎原之势。高甑生、李道宗得到消息迟了一步，等他们踏上吐谷浑国境，放眼所见，前方莫非一片焦土。