建安十一年（公元206年）一月，曹操留下曹丕驻守邺城，命令别驾从事崔琰辅佐，他亲自率军西上讨伐高干。大约在行军途中，他写下了著名的《苦寒行》：“北上太行山，艰哉何巍巍！羊肠坂诘屈，车轮为之摧。树木何萧瑟，北风声正悲。熊罴对我蹲，虎豹夹路啼。溪谷少人民，雪落何霏霏！延颈长叹息，远行多所怀。我心何怫郁，思欲一东归。水深桥梁绝，中路正徘徊。迷惑失故路，薄暮无宿栖。行行日已远，人马同时饥。担囊行取薪，斧冰持作糜。悲彼《东山》诗，悠悠使我哀。”全诗古朴苍凉，描写了在风雪交加中艰难的行军过程，抒发了对军旅生活的厌倦，流露出浓浓的思乡之情。

三月，曹军包围了壶关。《元和郡县志》称，在壶关县东南一百二十里，有曹公垒，是曹操进攻高干时构筑。高干留下部将夏昭、邓升守城，亲自前往匈奴部落求救，但匈奴单于没有答应，遂与数名骑兵南下逃亡，打算投奔荆州刘表，上洛（《读史方舆纪要》称，东汉末年，在武关与峣关之间设置上洛都尉；今陕西省商州市）都尉王琰将其抓获，斩首。王琰因此被封侯，其妻听说后没有高兴，反而大哭，原来是担心王琰富贵后会另娶美妾，而不再爱自己了。

曹操曾下令：“破城之后，全部活埋！”故此，曹军包围了很久都无法攻下。曹仁对曹操说：“围城要给其开出生路，如今公然对城内称要活埋他们，将人自为战，况且，壶关城墙坚固，粮食充足，强攻将造成士兵大量伤亡，围困则旷日长久，顿兵于坚城之下，去进攻抱有必死决心的敌人，这不是良策。”曹操采纳了曹仁的意见。此时，高干已逃，夏昭等人也感到没有什么希望了，遂于同月投降，至此并州被平定，曹仁也因功被封为都亭侯。

春秋五霸之一的晋文公重耳，有一位微臣名叫介子推。传说，在重耳流亡期间，介子推曾割下自己大腿上的肉，烤熟了让重耳吃下，救活了饿昏过去的他，但等重耳回到晋国当上国君、封赏众功臣时，偏偏忘了介子推。有人在晋文公面前替介子推鸣不平，晋文公猛然想起了这位救命恩人，几次召唤介子推就是不来，并带上老母隐居到绵山（今山西省介休市东南四十里介山）山中。晋文公亲自带兵来到绵山寻找，但一直没有找到，最后，他下令放火烧山，试图把介子推逼下山来。大火烧了三天三夜，等火熄灭后，人们发现介子推母子紧抱着一颗烧焦的柳树已经死了。晋文公非常懊悔，他下令将绵山改为介山；将放火烧山的这一天定为寒食节，严禁全国举火烧饭；还伐下那颗柳树的一段，做成木屐，经常望着木屐悲凉地说道：“悲哉！足下！”从此足下也成了下级对上级或同辈之间的敬称。寒食节的风俗也因此流传了下来，人们将这个节日赋予了很多的含义，成了人们怀念介子推、感叹世态炎凉的节日。寒食节大致在冬至后一百零五天也就是清明节的前一二天，在这一天里，人们只吃一些提前准备下来的冷食，故称寒食，这一风俗尤其是在介子推的故乡并州非常盛行。曹操消灭高干后，颁发了一道《明罚令》说：“闻太原、上党、西河、雁门冬至后百五日皆绝火寒食，云为介子推。子胥沉江，吴人未有绝水之事，至于子推独为寒食，岂不偏乎！且北方冱寒之地，老少羸弱，将有不堪之患。令到，人不得寒食。若犯者，家长半岁刑，主吏百日刑，令长夺一月俸。”曹操从关心百姓生活的角度下令取缔了寒食节。

战后，曹操任命梁习为别部司马，兼任并州刺史。梁习，字子虞，是陈郡柘（今河南省柘城县）人，曾任陈郡官吏，曹操担任司空后，历任乘氏、海西、下邳令、西曹令史、西曹属。梁习担任并州刺史后，当时并州的情况非常复杂：南匈奴就在眼皮底下；大姓豪强无所欲为；军民叛逃，或逃入南匈奴部落，或被豪强收为部曲；豪强之间相互争斗，经常骚扰各县。梁习到任后，先安抚各地豪强，逐渐征辟他们进入自己的幕府，等到地方上的豪强们被弄入幕府后，梁习又开始将豪强控制下的壮丁征发为义从；又趁着大军出征，让他们充当从军的征夫。等到这些壮丁被分配到各军以后，再把他们的家眷送到邺城，前前后后共送去了数万人，那些拒不从命的，梁习则发兵讨伐，斩杀了上千人，归降的有上万。史称，从此以后，“单于恭顺，名王稽颡，部曲服事供职，同於编户。边境肃清，百姓布野，勤劝农桑，令行禁止。”曹操大喜，赐梁习关内侯，并拜为正式的并州刺史。当地的老人们称颂梁习，认为从未见过比梁习还好的刺史。梁习举荐在并州避难的名士河内常林、杨俊、王象、荀纬以及太原的王凌等人，曹操将他们全部任命为县长，这些人后来都闻名于世。常林担任南和（今河北省邢台市南和县）县令，非常称职，后被越级提拔为博陵（今河北省安平县）太守。杨俊，字季才，河内获嘉（在今河南省新乡市境内）人。曾师从陈留边让，杨俊从小到大都喜欢评价他人，一次，他遇到司马懿，当时司马懿年仅十六七岁，杨俊一见之下就说道：“这可是个非同寻常之人啊！”司马懿的哥哥司马朗就有了名声，他的同族哥哥司马芝却默默无闻，只有杨俊说：“司马芝虽然名气不如司马朗，但实际上却比司马朗强。”曹操任命杨俊为曲梁（今河北省永年县）长，后晋升为南阳太守。王象，字羲伯，从小孤贫，十七八岁时还给人放羊，放羊时偷偷读书而被主人鞭打，杨俊将其赎出，给他盖房娶妻，后来，王象与同郡荀纬等人都受到曹丕的厚待，曹丕称帝后，拜王象为散骑侍郎，又晋升为散骑常侍，封列侯。王象温文尔雅，被称为儒学宗师。王凌，字彦云，是司徒王允的侄儿，被梁习举为孝廉，担任发干（今山东省聊城市境内）长，后升任中山太守。