唐军之所以能够顺利消灭刘武周、夺回并州，与李世民卓越的前敌指挥才能有着直接的关系，但也与李渊高超的战略眼光以及纵横捭阖的外交能力有着密不可分的关系。对此，虽然史书没有明言，但我们还是能够从一些蛛丝马迹中看出一些端倪来。在唐军东渡黄河之初，唐军在河东地区的局势是非常不妙的：宋金刚已经兵临绛州（今山西省新绛县），又攻克了龙门（今山西省河津县），只是由于后方尚有浩州（今山西省汾阳县）、绛州等数个唐军据点没有拿下，宋金刚不敢贸然西渡黄河，踏上关中的土地；在河东地区的东南部又有夏县的吕崇茂、河东的蒲坂有隋军王行本这两颗钉子，与宋金刚遥相呼应，威胁到唐军的后方。针对这一态势，唐高祖李渊命令一部唐军继续包围、进攻蒲坂，以解除内顾之忧，另一方面，则命令秦王李世民率领唐军主力从龙门东渡黄河，收复龙门，然后沿着汾河一线向东推进，一直前突到柏壁，既有力地支援了绛州唐军，又扼住了宋金刚南下与吕崇茂、王行本联络的通道。唐军主力驻扎在柏壁，类似于围棋的圈地，柏壁唐军固守不战，而由后方唐军逐次消灭蒲坂、夏县敌人，在消灭夏县吕崇茂时，李渊又成功地运用了离间之计，扭转了李孝基夏县大败之后的颓势。除此之外，李渊还加大了对突厥人的拉拢力度，可能唐人出于忌讳，在史书上没有详细记载，但从当时的事态发展上来看，我们就能得出这一结论：在刘武周南下之初，是得到了突厥人的大力支持的，刘武周军中就有突厥军队相助，但到了后期，当李世民北上进攻晋阳时，唐军军中竟然出现了两千突厥军队，而刘武周军的突厥军队则再也不见了踪迹。史书称，李世民讨伐刘武周时，突厥处罗可汗派他的弟弟步利设率领两千军队帮助唐军，此后，突厥又在晋阳以北各地留住了守军。显然，突厥人不可能向交战双方都派出军队，其间，唐高祖李渊一定与突厥处罗可汗达成了一项不足给外人道的秘密交易：唐军占领晋阳之后，晋阳以及以北地区让给突厥。刘武周占领晋阳后，虽然也听命于突厥人，但并没有答应把晋阳以北让给突厥人，如今唐朝提出这一条件，再加上唐朝送来的丰厚礼物，短视的突厥人自然就答应了。如果有突厥人的全力支持，唐军也难以如此顺利地夺回晋阳，从这一点来说，虽然李渊对突厥人做出了巨大的让步，但大行不顾细谨，暂时的退让是为了将来大踏步的前进，这种退让也是值得的。
逃入突厥境内的刘武周和宋金刚不久就被突厥人杀掉了。宋金刚阴谋率众逃归自己的家乡上谷，被突厥人抓获，腰斩；岚州（今山西省岚县）刺史刘六儿追随宋金刚在介休，被李世民所杀，他的哥哥刘季真丢掉石州，投奔刘武周的部将高满政，也被高满政所杀。刘武周南下之前，他的内史令苑君璋劝谏道：“唐主率领一州的军队，直取长安，所向无敌，这是上天要把江山交付给他，不是人力所能办到的。晋阳以南，道路险要，悬军深入，没有后援，假设大人出征不利，将如何北还！不如北与突厥相连，南与唐朝结好，在此称王，这也是上策。”但当时刘武周不从，留下苑君璋驻守朔州（今山西省朔州市）。等到败还后，刘武周对着苑君璋哭泣道：“我后悔没有听从你的话，以至于到了今天这一步！”后来，刘武周阴谋从突厥人那里逃归马邑，被突厥杀掉。突厥人以苑君璋为大行台，统领刘武周的残余部众，又派部将郁射设率军协防。刘武周以义宁元年（公元617年）二月起兵至此灭亡，共计三年有余。《新旧唐书》称六年错误。
并州对于唐朝来说，地位非常重要。虽然这里有来自突厥的威胁，但它地势高峻，俯瞰河内、河北、关中三地，又是李唐朝廷联络幽州罗艺的孔道，李唐如果占据并州，对于河北的窦建德和洛阳的王世充就有了一种地理优势：既与幽州的罗艺连为一体，从北、西两个方向威胁到窦建德集团，又可以出兵河内，切断窦建德与王世充之间的联系，并从北面威胁到洛阳的王世充。相反，如果李唐丢掉了并州，幽州的罗艺就陷于孤立无援的境地，李唐朝廷势必会失掉幽州，刘武周也会坐大，在并州、河北、河南这一局部地区，刘武周、窦建德、王世充也许会联合起来，与李唐对抗，维系割据一方的局面，届时，李唐统一中国的步伐就将被迟滞。
因此，当李渊听说收复并州之后，不禁大喜，四月二十九日，他设宴款待群臣，宴会结束后，他还下令赏赐给大家财物，命众人进入皇家仓库内，能拿多少，就拿多少。李渊不忘唐俭的救命之恩，恢复了他的官爵，仍命其为并州道安抚大使，把没收的独孤怀恩的田庄全部赏赐给了他。
李世民留下李仲文驻守晋阳后，就率领唐军南返了。在南返途中，李世民捎带着率军又进攻夏县，五月二十日，唐军攻克夏县，实施残酷的屠城。二十九日，李世民回到了长安。据《隋唐嘉话》称，李世民消灭刘武周之后，河东百姓在道路上载歌载舞，军人们编成乐曲《秦王破阵乐》，该曲后来也编入《乐府》之中。《近事会元》亦称，该舞曲舞者身披铠甲，手持长戟，等到唐太宗登基之后，贞观元年元旦，上演此曲，唐太宗叹息道：“我没有想到该曲今天竟然成为了乐府雅乐，朕虽然以武功平定天下，但决心用文德安抚四海”遂命虞世南等人进行改编，定名为《七德舞》，舞者共计一百二十人。
李渊任命李仲文为检校并州总管。李世民南返的当月，根据双方的协议，突厥处罗可汗就率军来到了晋阳，把晋阳城内的妇女劫掠一空，李仲文也拿突厥人无可奈何。抢完了晋阳城内的妇女，突厥人又留下伦特勒及其数百突厥军队，声称协助李仲文守城；从石岭（今山西省阳曲县以北）以北，全部予以占领，留下了突厥守军。
唐高祖李渊以晋阳以北的土地给予突厥人，起码换取了两个好处：一是换取了突厥人对自己暂时的支持，消除了北方的威胁，为统一中国换来宝贵的时间。二是消除了刘武周异己势力，夺回了并州这一战略要地。李渊必须把握住这一宝贵时机，尽快东下，消灭王世充，于是，在李世民回到长安后，唐高祖李渊就紧锣密鼓地部署军队，准备东击王世充了。
从武德二年四月刘武周南下到武德三年四月唐军收复晋阳，并州争夺整整持续了一年之久，在这一年里，整个华夏大地波诡云谲，各个势力之间你争我夺，此消彼长，又发生了很多大事：
首先是河北的窦建德。
如前所述，武德二年闰二月，窦建德在没有打下幽州罗艺的情况下，只好南下，消灭了宇文化及，相继攻陷了邢州等地，打掉了李唐从河内、并州伸向河北的触角。等到刘武周四月发兵南下进攻李唐并州后，洛阳的王世充也自立为帝，得知这一消息，窦建德就与王世充断绝了关系。六月，窦建德率部攻克了沧州（今河北省沧县东南）。八月，窦建德率领十万大军进逼洺州（今河北省永年县），李唐淮安王李神通率领唐军南撤，退守相州（今河南省安阳市）。八月三日，窦建德大军来到洺州城下。八月十一日，窦建德攻克洺州，总管袁子干投降。十九日，窦建德率军南下，直扑相州，李神通率军再撤，投奔黎阳（今河南省浚县）的李世勣。九月四日，窦建德攻克了相州，杀掉李唐刺史吕珉。而在这一月，刘武周也攻克了晋阳，齐王李元吉弃城逃归长安。二十五日，窦建德又攻陷赵州（今河北省赵县），逮捕李唐赵州总管张志昂和李神通派遣的慰抚使张道源。窦建德认为他们二人与邢州刺史陈君宾不早早投降，打算把三人统统杀掉。国子祭酒凌敬劝谏道：“臣子各为自己的君主效命，他们三人能够坚守城池，拒不投降，这才是忠臣啊！大王今天杀了他们，将如何劝勉群臣呢？”窦建德发怒道：“我来到城下，他们还不投降，如今力尽被擒，为何不杀？”凌敬又说：“如今大王命令大将高士兴前去易水（今河北省易县）抵御罗艺，假如罗艺刚到，高士兴就投降了，大王你觉得如何？”窦建德听了，顿时醒悟，当即下令把三人都放了。就这一点来看，窦建德要比杀降的李渊和屠城的李世民强多了。
在分兵抵御刘武周和梁师都的同时，为了因应咄咄逼人的窦建德，李唐朝廷于十月四日给幽州总管、燕公罗艺赐姓李，加封为燕郡王，命其发兵南下，牵制窦建德。六日，李艺即率军在衡水（今河北省衡水市）击败了窦建德的军队。同月，窦建德的主力没有顾及北方一直捣乱的李艺，而是继续南下直逼卫州（今河南省卫辉市）。窦建德每次行军，经常兵分三路，中央一路是辎重、老弱，两边两路是步骑兵，三路大军各自相距两里左右。窦建德率领一千多精锐骑兵走在队伍的最前面，一直越过黎阳三十里，李世勣派骑兵将领丘孝刚率领二百骑兵前去侦查。丘孝刚素来十分骁勇，擅长在马上使枪，与窦建德遭遇后，遂率军向窦建德发起了猛攻，将窦建德击败，幸赖右路军前来接应，才杀掉了丘孝刚。原本窦建德没有打算进攻黎阳，正因为受到丘孝刚这一惊吓，让他勃然大怒，立即掉过头来，命令大军进攻黎阳。很快，窦建德就攻克了黎阳，俘虏李唐淮安王李神通、李世勣的父亲李盖、魏征以及李渊的妹妹同安公主（嫁给隋州刺史王裕）。只有李世勣率领数百骑兵南渡黄河，脱逃，数日后，因其父已被窦建德抓获，李世勣又回到黎阳，向窦建德投降。卫州听说黎阳陷落后，也望风归降了。