韦迁最终没有被杀，高欢赦免了他，玉壁之战即将结束，纵使杀了韦迁泄愤，于战局毫无益处，只会坚定守军拼死抵抗的决心。十一月，又是一年的隆冬到来了，玉壁方圆百里之内雪花皑皑，寸草不生，前来攻战的东魏将士人缺冬衣，马缺草料，不堪饥寒之苦，皆劝高欢退兵回国。高欢在病榻上派人往营中核查人数，手下点算之后回报他道：“丞相，此战打到现在，已持续达近两个月，我军战死、病死的士兵不下于七万人。”

“传我的命令，这些都是英勇的将士，是为我牺牲的。立即为他们修筑坟墓，让他们在地下得到安息。”

安葬战死士兵尸首的当夜，天上有颗巨大的流星坠落人间，就落在高欢的军营附近。韦孝宽在玉壁城楼上看得清楚，让士兵们朝山下喊话道：“高欢之前出战时，曾中了韦将军一箭，现在已不治身亡。将星陨落，即是证据。”

因高欢忧虑成疾，多日不曾出营巡视，东魏士兵们听后，信以为真，便三三两两聚在一处商议，想要投降西魏。大将斛律金连夜求见高欢，将此事奏报，高欢艰难地睁开双目，平静地说道：“明日一早，你召集所有的将领和士兵在营中集合，我要亲自会见他们。”

一夜过去，到了清晨，高欢手拄拐杖，在侍卫的搀扶下出了帐篷。十余万将士见高欢没死，人人大喜。高欢让士兵们席地而坐，自己也坐了，用嘶哑的声音对他们道：“在场的将士，许多都是六镇人，不知不觉，诸位自跟随本相起事，已远离家乡有二十载。我的头发白了，各位也从青年成长为壮士，今日，此地，我等不讨论军事，一起唱一首家乡的民歌吧。”

他示意一旁的斛律金道：“斛律将军，你先来。”

斛律金于是唱道：

敕勒川，阴山下，

天似穹庐，笼盖四野。

天苍苍，野茫茫，

风吹草低见牛羊。

这首《敕勒歌》，很多朋友在课本上学过，据传原为丁零人的民歌（丁零人别称敕勒人、高车人）。到南北朝中期，丁零人已与鲜卑人融合为一，多生活在六镇地区，因此生活在北方的鲜卑人、汉人多对此歌耳熟能详。一首民歌，激起了将士们思念故乡的情愫，人人眼含热泪，与斛律金一起合唱，高欢亲自为他们打着节拍。唱了十数遍，高欢拄拐起身，颁令下去：“取出军中的所有积蓄，让将士们饱餐一顿，待此宴结束，想念故乡的士兵们，随我一起回家吧。”

翌日，东魏大军拔寨而起，向东魏境内撤退。韦孝宽欲率军追赶，但见高欢的军队步伐整齐，阵容严谨，只得作罢。

高欢回国后仅过了两个月，公元547年正月，即在晋阳去世，时年五十二岁。他临终之前，娄昭君泪眼婆娑地守候在病榻旁侧，问高欢道：“大王还有什么事放心不下，需要妾身交代给澄儿的吗？”

高欢从怀中取出一封信，递给她道：“你把这封书信亲自交给澄儿，我就无所顾虑了。”

高欢大薨之后，娄昭君依照其遗言，秘不发丧，将高欢的遗书带到邺城，交给继承东魏大权的长子高澄。高澄打开书信一看，上面有两行字。

“侯景得知为父去世，一定会谋反！你以为父的名义，故意召他来晋阳见我，他如果不肯来，这就是反了。”

“不过孩子，你也不用担心，他如果谋反，你就任命慕容绍宗为主将去讨伐他。慕容绍宗是位帅才，而且忠勇兼备，我一辈子没有重用他，就是担心他名声显赫会让那些小人有了提防，所以才特地留给你。”

高澄依照父亲留下的遗计，派人启程赶赴河南，面见时任南道行台，长期驻军在此的侯景，说道：“高丞相回国数月，病情已经痊愈，他有要事让你亲自去见他。”

侯景盯着使者看了一会儿，突然仰天大笑，笑过之后，他冷冷说道：“高欢已经死了，此事瞒得过别人，如何瞒得过我。当初沙苑之战，我之所以不让他烧死宇文泰，为的正是今日。—如果宇文泰早早死了，他岂能在夺取洛阳之后，任命我为南道大行台，拥兵十万，长期专制河南。高欢一世英雄，他在世的时候，我不敢有异心，但他既然死了，我终究不能效忠于他的子孙。整个关东的将士都清楚我的本事，我若起兵，谁敢与我为敌？”说完，侯景拔剑斩杀使者，宣布举河南之地脱离东魏。此时距离高欢在晋阳病逝，仅仅过去五日时间。

见侯景果然反叛，高澄大松了一口气：“父王英明，活着的侯景，都不是已去世的您的对手。既然您的第一句话成为现实，那么我用您留下的第二句话去对付他，一定能够成功。”高澄遂亲自登门面见慕容绍宗，封他为燕郡公，兼任东南道大行台，让他与堂叔父高岳一道率军南下，讨伐侯景。