部将田晏、夏育二人久随段颎征伐，作战经验丰富，又出面进谏道：“将军前日不听我等良劝，轻身率军闯入峡谷，竟险些遭西羌之众困杀。今天色已晚，局势又如此相似，将军不如召得后军赶到，再列阵向北不迟。”段颎摆摆手道：“非是我不知敌众我寡，且军士疲惫已极也。但唯有此时向北，才是最佳时机。”

二人道：“愿闻将军高见。”

“羌人战力可怖，且善于结阵冲锋，自虞诩之后，又与汉军鏖战数十载，未曾大挫过锐气。但其眼下甘心弃凉州而北上，可见已有畏我之心。你等试想：我军每每与羌人作战，只得将领三人，皇甫规、张奂、与段某，尚在招抚和剿灭二策之间争论不休；东羌既多达上百部，一时如何心齐？军心不齐，虽多而无用，我等以雷霆之势攻之，势必瓦解；若我等徐徐渐进，谨慎向前，待数日之后，羌人各部商议定了，亦咬牙切齿以待，此叛便非是三年可定也。”

说过主张，他与那二人继续挥军向北，于隔日清晨时分，即兵临奢延泽南岸。值哨北岸的羌人见汉军来得如此迅疾，尚在急着向各部首领汇报，段颎毫无迟疑，已率军蹚过河来——那河水恰好深及马腹。羌人营地中一片混乱，各部落首领鉴于汉军来势不明，十有八九选择放弃营地，重新向西溃逃；留于原地抵抗者，不足十之一二。段颎轻易斩尽这些羌人，整顿人马，又往西追去。

数日后，汉羌两军在落川相逢，此地在奢延泽西南，又将回到凉州。羌人唯恐汉军再强行涉水过河，驻大军于落川南岸，密切监视对岸汉军动向。段颎自领数百军士沿河道东、西铺开，虚设旌旗，却暗令夏育率二千人从河道上游迂回过岸去，单击羌军左翼。东羌各首领紧急磋商过后，分出数个部落，数千军士抵挡该路汉军，结果为夏育击败；各首领得报一阵骚动，又改为集体向西去战夏育，却不防段颎那边同时又分兵一部，用田晏率军四五千人，也从下游迂回过岸来，单击羌军右翼。羌军人多口杂，或道夏育实为汉军主力，或道田晏才是汉军主力，议论不休，阵势不稳，只得稍稍后撤。段颎趁这当口，率数百军士从正面强行渡河，又差人急告夏育、田晏，从东、西、北三个方向，向羌军发起全面进攻。羌军左遮右挡，眼看难以敌住，只得又往西行，向凉州腹地撤退。

段颎一边召取前日留守安定、北地的那部分军士向西前来会和，一边率骑兵对羌军继续猛追猛打，直追入张掖境内，前方又有一河，名作：令鲜水，拦住东羌去路。东羌逃无可逃，翻身就回，背水列阵，欲与汉军决一死战；段颎令旗挥处，也令汉军停止追赶，原地列阵以待。双方对峙了半日，都未曾轻动，汉军后队已从东方赶来。东羌子民战心旋即大去，多数者主张向西逃跑，少数者虽感不忿，只得随波逐流。段颎见状，只教军士列阵缓缓向前，就是有意逼迫羌军渡河，那河极深，羌人紧急间又寻不得船只，坠入水中者即死，只得又回身与汉军交战。就在这犹豫不定之间，汉军那边，早已按“逢义之战”时的阵法，将长矛步兵、弓弩手、骑兵，各就各位布妥，谅羌人逞一时意气而来，如何可敌得过几乎无懈可击的破羌之阵。在遭到汉军一阵屠杀后，羌军幸存者三四万人因西进无路，只得又改回向东北撤退，欲重新逃往并州。

“羌贼可破矣！”段颎深知，到这一阶段，东羌已彻底被逼得乱套了。而当务之急，就是除寇勿尽，决不能让他们东山再起！他下令军士，务必咬住羌人，绝不能让败兵脱离汉军的视线。此后接连紧追了数日，汉军在凉州西北角，一名作灵武谷（位于今宁夏银川市西南）之地，终追得羌军后队，段颎单枪匹马先出，径冲羌军之阵，身后大军呐喊，一齐冲杀向前，羌军丢弃兵刃而逃，在灵武谷附近兜了一圈，见往北去之路悉数为汉军封锁，又掉头往南撤退。段颎急令全军，再改作向南急追。但连续不断的恶战下来，这时汉军步兵之中，人人早脚上起茧，鞋履残破，竟不能再追，只得请一人做主向段颎告饶，求他下令暂缓追击。段颎面色凝重，纵身下地，然后手拍马背，让那告饶的军士上马。那军士只是一小小军官，如何敢乘将军的马，只顾磕头赔罪。段颎再三坚持，终将那军士请上马背去了，夏育、田晏等军中干将见状，也纷纷仿效段颎，一时间军官皆弃了战马，持兵刃卖力奔走，于是汉军士气大振，继续向南追击无误。又连追三日，羌军、汉军皆气喘吁吁，狭路相逢时只剩撕咬；马匹难堪重负，也已损失过半。但因段颎深谙激励将士之道，又经常披甲持刃冲锋在先，每历一战，汉军全以大胜告终，伤者、死者寥寥；羌军却是首领不顾子民，沿途落下尸首无数。眼看又过半月，当羌军逃过安定郡，遭汉军从身后对之又一番痛击，被迫向南涌入天水郡时，之前密密麻麻的各部羌众，仅存者不过二万余人，且部落与部落之间也再无凝聚力可言。他们化整为零，散落于各山谷之间，饥食树皮，渴饮浊水，又分差军士把守山谷出口。在山谷之外，段颎本不肯罢休，仍要继续进兵，但鉴于军士的气力终不能与他相比，天气又已然转寒，只得权且休兵罢战，犒劳三军，为来年之大决战作准备。