原来，羌族之部落甚多甚杂（据《后汉书》载当时便有89种），且分布极广（几乎整个中国西部地区），如果说湟水一带的西羌以烧当、先零二部最强，那么地邻四川的羌人便以参狼部落为首。光听这个名字，就知道该部落极其强悍，哪怕马援威名远扬，他们还是忍不住要捋虎须玩玩。
建武十二年冬，参狼羌勾结塞外诸羌，袭杀汉朝官吏，大举作乱。马援闻得战报，率四千人南下进剿，不日行至氐道（县管蛮夷曰“道”，氐道位于陇西郡与武都郡交界处，即今甘肃礼县西北）境内，与参狼诸羌狭路相逢。
这一次，羌人又搞老一套据山为险，盖其山地民族，故兵长在山谷，短于平地，且不能持久。既然如此，马援决定也跟羌人玩玩儿持久战。老是奇袭就没意思了。
而且，马援还发现羌人一个低级错误：他们竟然全守在光秃秃的山上，没去把住山下的水源和草地。兵法曰：“凡行军越过山险而阵，必依附山谷，一则利水草，一则附险固，以战则胜。”羌人但知守险，却不明水草之利，这便是犯了马谡守街亭同样的错误。三个字，易破矣！马援于是指挥部队占领了山下水草地，采取围而不击的战法，想要不费一兵一卒，活活困死这帮羌虏。
如果人是铁饭是钢，那水就是金箍棒，一天不喝很受伤，羌人渴到伤不起，只好鼓勇下山强夺，当然一切都迟了，迎接他们的只是一阵阵猛烈的箭雨，来一个死一个，来两个死一双，数次下来，羌人终于绝望了。他们这才发现，他们惹到一个实在不该惹的对手，再打下去就是找死。
在这种情况下，数十万户的诸羌部落只好逃亡出塞，而留在武都的一万多诸羌老弱，则全体向马援投降。自任陇西太守，马援手里始终也不过数千兵马，最后却搞定了凉州各郡近百万强悍的羌人，这真是中国军事史的一个奇迹。
至此，凉州羌乱全定。马援以其赫赫名将之威，为西北边塞争取了其后二十余年的太平。这是他此生最大的历史功绩。一个伟大的民族英雄，在帝国西方冉冉升起。
然而，马援功高不赏。在建武十三年伐蜀大胜后举办的庆功封侯会上，功臣中共有三百六十五人增邑更封，却独独没有马援的份儿。
难道说在朝廷眼里，边塞守将低人一等？李广、马援竟然都没有封侯。
很显然，刘秀与马援之间的情分，还是远不如他南阳、颖川、河北这三帮老哥们儿的。这没办法，马援进圈子进晚啊，而且晚了足足十年，等天下初定才来扫尾，肉早分光了，刘秀也只能留点汤给他。
马援虽没赶上好时候，但自有其出众之处，否则也不可能位列千古名将。他与两汉其他牛人最大的不同，在其出色的军政统战能力，犹擅教化蛮夷，且颇有西汉曹参之风。
然而越复杂的事情，道理就越简单，马援的妙诀，无非两个字，一为“宽”，二为“信”。
宽者，总大体，简政而不扰民也。
信者，施恩义，务实且以诚待人也。
只要做到这两点，马援就可以翘起脚来治理陇西，一点问题都没有。
据《东观汉记》记载，马援交游甚广，家中每日都是宾客盈门、高朋满座，他这官当的，成天也就是和朋友们饮宴闲聊，从不见怎么管事儿，陇西偏偏太平无忧，真奇怪了！偶有不识相的郡吏前来汇报政务，马援就跷二郎腿说：“此丞、掾任，何足相烦。颇哀老子，使得邀游。若有大姓侵小民，黠羌欲旅距，此则太守事耳。”
看来，马援也是黄老之道的忠实拥趸，盖乱世务边，与民休息即可，清净无为才是王道。
一次，马援又在太守府衙内与宾客饮宴，忽有郡吏惊慌失措跑进来，大呼糟了糟了！
马援把酒杯一放，大怒：糟什么糟，慌什么慌，淡定一点儿慢慢说。
原来，陇地一向民风彪悍，刚好这天邻县有人聚众械斗，造成流血事件。吏民不知就里，竟误以为羌人作乱，纷纷逃入陇西首府狄道县（今甘肃临洮）狄道城，寻求官府保护。狄道县长闻变，急急前来求见，请示立即关闭城门，并发动军队前去镇压。
马援听完汇报，放声大笑：“虏何敢复犯我！晓狄道长，归守官舍。甚怖急者，可床下伏！”狄道县长听得太守这么说，又羞又惧，竟真逃回家躲在了床底下。一日后，邻县县长来报，说原来真的不是羌乱，也就几个小流氓斗殴而已，事态已经平息了，人民群众情绪恨稳定。狄道县长听闻，更加羞惭，恨不得找个地洞钻进去。全郡上下虚惊之余，也对马援皆叹服不已。
就这样，马援在陇西太守任上六年，招抚西羌，教化百姓，大力发展农牧，又为狄道开渠，引水种秔稻（见郦道元《水经注》），以至政通人和，汉胡百姓安居乐业。至建武十六年春，刘秀见凉州形势大定，便将马援召回京师，拜为虎贲中郎将（秩比两千石，掌禁中宿卫及扈从，主虎贲郎千余人），要跟他商量几件大事。
第一件大事就是关于帝国的币制问题。原来王莽篡位后，竟下令废黜了西汉长期使用的五铢钱，大造宝货新币，导致天下金融崩溃，百姓多受其苦，数十万抵制者还被流放边疆，这都是马援年少时亲睹亲历。所以他归汉后多次上疏，言“富国之本，在於食货，宜如旧铸五铢钱。”奏请恢复西汉旧币制，可惜当时三府（大司马，大司空，大司徒）对此提案心存顾虑，这件事就被搁置了下来。
马援回到洛阳任职后，立刻去到三公府中找回自己的奏章，对上面批复的十几条反对意见一一解释注明，然后重新写成表章上奏。刘秀见其言之有理，便采纳了他的意见，天下民众因而得益，这又是马援一大历史功绩。
第二件事就是这年刘秀因度田令实施不利，处死了十余名贪赃枉法的河南官吏。这对于奉行柔道的刘秀来说，心中当然不免疙瘩，觉得自己做的太过，于是找个机会询问马援的想法：“吾甚恨前杀守、相多也！”
马援回答的很有意思：“死得其罪，何多之有！但死者既往，不可复生也！”
这就是马援，风趣幽默，豁达坦率，又语带机锋，劝中带谏，当真太讨人喜欢，刘秀放声大笑，心中阴霾一扫而空。
第三件事儿就是马援自找的了。当时刘秀经常召他进宫问对，而待诏总是很无聊的，马援闲不住，竟在宫中开起“百家讲坛”来。我们知道，马援交游广阔，天南海北见多识广，口才也好，长的又帅，加之眉目生动、绘声绘色，感染力极强，吸引力十足，真是满足了观众们视觉听觉的双重享受。马援讲起劲来，还变着法儿的换花样，今天讲前朝将相，明天讲三辅长者，后天讲闾里少年，大后天再讲江湖豪侠，反正街头巷尾民间逸趣、历史地理人文风俗，马援包罗万象天花乱坠，搞得宫里的太子、诸王、宫女、太监们全都沉迷其中，乐此不疲，百听不倦。这或许就是中国评书的最早起源吧。