说这话的不是旁人，正是昔年得司马炎赏识，差一点成为了伐吴统帅的匈奴贵族刘渊。不知不觉间，他已在中原呆了有三十多年，当年的那位毛头小伙已蜕变成了一位老谋深算的五旬男子。司马颖见是刘渊主动说要去请救兵，心念一动，问他道：“你所说的救兵，自然是指匈奴人了，但不知除了你的匈奴左部之外，其余四部是否愿意助我共赴国难？”

刘渊弯身施礼道：“殿下说的是哪里话，凭您的威名，四海之内谁不想争先为您效力？而那司马腾、王浚等人，竖子罢了。此后一个月，您可以凭恃邺城的险固，坚壁不战；待我请得五部匈奴大军前来，即可轻易擒杀司马腾、王浚，高悬那二人头颅；至于鲜卑、乌桓等附和之众，皆不足虑也。”

司马颖被刘渊一番话说得喜笑颜开，忙给他加了一大堆北单于、参丞相军事等官职，请他速速去请救兵。公元304年秋季，刘渊回到了匈奴左部的所在地：左国城（在今山西方山县境内），他的叔祖父，当时匈奴各部的实际管理者左贤王刘宣亲率五部匈奴首领，前往迎接。

二人见面后，刘宣问刘渊道：“将军此次回来，所为何事？”

刘渊道：“蒙皇太弟司马颖相请，率匈奴各部，前往邺城增援。”

刘宣大怒，说道：“我等身为大单于后裔，屈辱顺从中原统治者已达数百年，期间，各部首领名号虽为王侯，实则处处受制，地位连奴隶都不如。如今好不容易见到司马氏父子兄弟自相残杀，晋国朝纲不振，这正是将军重振匈奴帝国，实现大单于丰功伟业的大好时机啊！怎么你却一心想着帮助汉人，而去攻击本可以为我等所用的鲜卑、乌桓等各部胡人呢？”

刘渊淡淡一笑，回道：“祖父大人说的极是，身为大丈夫，要做就做高山峻岭，岂能去做趋炎附势的矮小山丘？但是，在我刘渊看来，与其拘泥于汉、胡之分，仅仅重振一支匈奴部落，远不及入主中原，做天下的帝王。中原的帝王并非只有他们汉人能做，比如大禹便出自西戎，周文王则生在东夷。我这次回来之前，心中早已立下志向：此生纵便不能实现汉高祖统一天下的伟业，也至少要效仿魏武帝统一北方。”

刘宣这才怒气散去，露出了赞许的神色，他接着问刘渊：“那么，援救司马颖一事，除了损兵折将，我匈奴各部并不能从中得到丝毫利益，你为什么还要去做？”

“祖父大人有所不知，汉人向来将‘仁义’二字看得甚重，因而欲征服其国，须得先征服其心。没错，我之所以提议回匈奴借兵，只是寻个理由从中原脱身罢了，但既然已有过承诺，便不能失信于人。”

于是刘宣对出兵增援邺城一事才不再反对，并且他以自己年事已高，已不能有所作为为由，当着各部首领之面，推举刘渊为上单于，请其代替自己统领五部匈奴。这些年来，刘渊虽然不在匈奴国中，但其文武全才、博闻广识的美名早已传遍了所有的部落，因而只用了二十日，匈奴各部纷纷归附，刘渊从中精选骑兵五万，宣布定都离石（在今山西吕梁市境内）。

军队组建完毕，刘渊拜部下刘宏为左於陆王，率骑兵五千，先行驰援邺城。结果刘宏才刚刚出发，中原有消息传来：司马颖因畏惧敌军强大，等不及匈奴援军赶到，就已放弃邺城逃往洛阳去了。刘渊听后，叹道：“司马氏各王之中，以司马颖的才干最高；但此人有名无实，也不过是个奴才！”经过此事，他才中止了援救司马颖的计划，于是一边观望时势，一边遣人在离石南郊筑坛。到了十月，高坛修筑完毕，刘渊亲登坛上，作檄文宣告四方道：“昔年，我大匈奴与大汉曾相约为兄弟，今兄长虽被魏、晋所灭，但小弟尚存。从今日起，兴复汉室之事，便交由我刘渊罢！”宣读檄文完毕，刘渊自称“汉王”，尽数罢黜匈奴各部历来使用的“左右贤王”、“左右谷蠡王”等官职；他效仿汉朝官制，另行设立丞相、御史大夫、太尉等官职，比如他的祖叔父刘宣，便成了匈奴人历史上的第一任丞相。除此之外，刘渊还效仿中原王朝，开始设立年号，定公元304年这一年的年号为“汉元熙元年”；又追认不被魏晋两朝承认的蜀汉国君刘禅为“汉孝怀皇帝”，他自己则是汉怀帝的法定继承人。

经过这一番改革，刘渊瞬间从一个匈奴后裔，变身为汉朝后裔，拥有了逐鹿中原的合法旗号。刚吓跑司马颖，屯兵邺城的司马腾看过刘渊的檄文后，勃然大怒：“他刘渊明明就是一个胡人，竟然以这种卑劣手段来混淆视听，是可忍，孰不可忍！”他遂派出将领聂玄率军讨伐刘渊，两军大战于大陵（在今山西文水县），因刘渊通晓兵法，极善用兵，聂玄大败而归。