檀石槐并不知道，他前脚走后，那位立功心切的段颎真的奉诏去了洛阳。只不过，这次他是以囚徒身份被押回去的，罪名正是“矫诏”，按律当斩！关键时刻，他之前砍下的上万个鲜卑首级起了作用，朝廷顾念天下正当大乱，有这等将才，就这么杀了岂不可惜？于是死罪变成了活罪，改叛斩首为下狱。段颎被下狱不久，即被释放出狱，官拜议郎，算是贬官三级。随后又因青、徐二州农民起义不断蔓延，朝廷数次动用官兵进剿，都不得取胜，便又想起这位矫诏将军来。蒙司徒尹颂的举荐，段颎同年又升官三级，被拜作中郎将，领军数千，往剿“东方贼寇”。自他一到，之前那些平叛将领们所惯用的“恩抚”、“招降”策略，全都不见了，取而代之的是锋利的屠刀。才交战过数次，青、徐二州的义军已被他斩杀过半，余者见“段”字旗号，无不溃走。凭借一堆又一堆的人头，段颎的功绩以惊人的速度攀升，才过年逾，即被封为列侯，得赏钱五十万。百官畏其杀人如麻，用兵之道仿若白起，暗呼之为“杀神将军”。

又过三年，延熹二年（公元159年），梁冀之妹梁皇后去世。年二十八岁的汉桓帝羽翼渐丰，趁着梁冀少了内应的契机，联合单超、左倌、徐璜、具瑗、唐衡，共计宦官五人，调得禁军，包围梁冀府宅。梁冀、孙寿完全无备，自尽于家中。二人死后，梁氏、孙氏两大家族被满门抄斩，百姓交相传颂，莫不庆贺。汉桓帝颇为看重段颎的才能，揽得大权之后，即拜段颎为护羌校尉，领官兵数千，赶赴陇西镇抚西羌。

段颎到任时，恰逢烧当、烧何、当煎等八大部落联合反叛，在陇西、金城一带劫掠。段颎二话不说，袖子一撸抡起屠刀上阵，首战即斩得羌军二千人，另擒得俘虏万余。在对待俘虏一事上，段颎全无张奂的仁义作风，他明告那万余俘虏：“本校尉此次上任，就是来杀尽叛军的，绝无讲和的可能！你等愿降便降，不愿降的，此生绝无可能再回归湟中。”他放出这般狠话，迫得大多数俘虏伏地乞降，沦为“义羌”（配合汉军作战的羌人士兵）；其余不愿降者，他另用官兵押解往旁处服役，沦为“贱民”。西羌各部见其冷酷至斯，再不敢往陇西、金城来，遂改将进攻矛头对准了张掖。

张掖郡，在湟水以北，距护羌校尉驻地：陇西令居县不下五百里。此前一战，反叛的八部羌人虽大败特败，却也查悉得汉军的一大弱点：人数不足，且缺少足够的骑兵。——这也正是张奂等将领对羌人犯境一事，普遍主张息事宁人的根本原因。于是他们再请得别部羌人支援，改用游击战法，意图拖垮这位新上任的护羌校尉。段颎闻得急报，集齐汉军、义羌，共计一万多人，星夜赶赴张掖增援。为保持行军速度一致，并保存将士体力，他在率军向西北疾行的期间，命令骑兵只得骑乘半日的战马，剩余半日，则将战马交由步兵骑乘，轮流替换，一视同仁。为起表率作用，骑兵步行时，他也弃了战马步行；士兵休整时，他与士兵们同吃同住，同睡一帐。因此汉军、义羌虽受奔波之苦，无丝毫怨言，半月之内，已入张掖境内。

西羌联军见段颎远道而来，欺他兵少，更兼为长途奔波所累，便聚拢张掖境内的各处羌骑，共计数万人，于一日凌晨时分主动发起进攻。汉军营外东、南、西、北四个方向，段颎都暗布有骑哨，因此羌人一旦进犯，汉军得以及时列阵出迎。此番汉军布阵，与之前战鲜卑骑兵时类似，弓弩手在前，持矛步兵在后，两翼辅以骑兵。待得交战起来，弓弩首先发动，但见西羌联军成片地倒下；之后的羌军不畏死亡，仍是顶着弓弩卖力向前。双方战至正午，汉、羌双方早裹成一团，各自都将箭矢射尽了，马刀、长矛也大多断损。八部羌人统领见再战无益，各率所部羌军，下令向湟水方向撤退。

汉军这边，也早已精疲力尽，好不容易借机喘口气，却见那位护羌校尉段颎手持卷刃大刀，弃马步行，仍在奋力追赶。汉军大骇，顾不得休息，忙一拥上前保护。段颎趁机下令众将士以来时行军之法，尾随八部羌军向南急追。一路上饥食马肉，渴饮雪水，但与羌军相逢，见人便杀。竟然如影随形般地追赶羌军达四十余日，一直追到积石山下。此山又名阿尼玛卿山，更在湟水以南约千里处，乃黄河源头之一，八部羌人逃至此地，已是从羌人地界的最北端逃到了最南端。到了积石山下后，再也逃不动了，只得仓促回头与汉军决战。一场夹杂着扭打、撕咬的肉搏战打下来，汉军因法度明确，阵势齐整，再次击杀羌军达五千余人。史称“积石山大捷”。

此战结束后，八部羌军中的幸存者，出于对“杀神将军”的畏惧，大多投降，段颎凯旋而还。在回师途中，汉军途经湟中地区，人人衣甲残缺，无不带伤，羌人各部虽亲眼目见，也只得远远躲开。稍有躲得迟的，如石城羌、杂种羌（专指多部混居的羌族群体），一个被汉军又斩杀一千六百人，一个被汉军又斩杀三千人，但见段颎兵到，不战自乱。段颎就此树立了一种四处欺凌的恶霸形象。人见人怕的他，竟效仿张奂，也召集各部羌胡首领齐往护羌校尉府，置酒款待，并定下盟誓。

“但有羌胡兵犯凉州，诸位首领与段某共击之！”