唐武德五年，公元622年七月，杜伏威亲自入朝。唐高祖为示恩宠，拜其为太子太保，让他上朝时位列齐王李元吉之前。古代朝会时官员们的位置很有讲究，站的越前的说明此人在朝中越有分量，从这一点上看，杜伏威的地位仅次于唐高祖、李建成、李世民，是朝中的第四号人物。唐高祖对其他诸侯从不留情，唯独对杜伏威这么好是有原因的：首先杜伏威是主动请求入朝，这跟被打败后投降是两回事；其次杜伏威入朝的诚意非常足，他连马车都没敢坐，直接骑着一匹快马就火急火燎的上路了，从江东跑到长安仅用时三日；最后，杜伏威的入朝无意间创造了一项纪录，在此之前，中国历史上统一天下花费时间最短的朝代是西汉，共用时七年，杜伏威这一来，从形式上看，大唐已经征服了江东，完成了统一，用时比西汉还少了两年，才五年。
没有哪位皇帝希望统一天下的过程艰苦卓越，积年累月，肯定是希望越简单越好，越快越好。当然了，对比汉朝和唐朝（从这时开始，可以称之为唐朝了）的建立过程，我们发现唐朝的这一记录即使成真，也是有一定水分的，因为刘邦是白手起家，起点非常低，又在打败秦朝和项羽的过程中起到了决定性作用；而李渊作为前朝皇帝的大表哥，起跑时就领先其他诸侯一个身位，并且打败各路诸侯主要靠的是李世民和李靖，他的参与程度和刘邦完全没法比。不过和结果相比，这些都不重要了，世人只会记住记录是由谁创造的，而不是怎么创造的，所谓结果大于过程，便是此理。
两位不速之客的出现，打破了唐高祖的美好愿望，硬生生把他统一天下的时间又延长了两年，和西汉一样，也是七年。其中一位是刘黑闼，他被李世民赶到塞外后，过了数月在突厥人的资助下又再次杀回了河北，成功上演了“刘黑闼之乱”第二回合。对此，唐高祖派出曾身中数十箭不但没死，还帮助李世民成功打败了窦建德的悍将李道玄前往迎战。李道玄仅十九岁，年少气盛，他出战前，爱惜其勇武的李世民嘱咐他道：“以前我挂帅出征，经常身先士卒冲入敌阵却能幸免于难，那是因为我有秦琼、尉迟敬德等猛将保护。你千万不要效仿我，否则会有不测之祸。”李道玄去后三个月，噩耗传来：李道玄手握三万大军，与拥兵才不到一万人的刘黑闼交战，李道玄将主力军队交给副将指挥，自己仅带着数百骑兵率先冲入敌阵，结果遭到刘黑闼将士的集体围攻，李玄道战死，其副将史万宝随后也大败而归。李世民为李道玄的阵亡恸哭不已，对他人说道：“是我害了李玄道，他是因为模仿我的用兵方法而死。”唐高祖因李道玄英年早逝，连个子嗣都没留下，也非常惋惜，追赠他为左骁卫大将军，让其弟李道明继承他的爵位。
十月，唐朝派李元吉出征河北，再战刘黑闼，李元吉手握绝对优势兵力，同样被刘黑闼杀得丢盔弃甲，刘黑闼此战过后，成功收复了国都洺州和原先的夏国故地，唐高祖垂头丧气，只能再次决定启用李世民挂帅。太子李建成的心腹魏征劝太子道：“殿下是时候请求出战了，现在刘黑闼虽然重新夺回了河北，但他的军队之前已被李世民杀得分散逃亡，可用之兵不足一万，又缺乏粮食物资。如果您挂帅出征，凯旋而归，或许才能稳固您的太子之位，若不然这样下去，秦王功盖天下，内外归心于他，陛下再是信任您，也难免被大臣们说动改立秦王为太子。”李建成犹豫道：“先生之言建成自然明白，可我已多年未曾涉足疆场，那刘黑闼兵力虽少，可近来连战连胜，万一我也失手败给他怎么办？”魏征宽慰他道：“太子殿下放心，下官也当随行，替您出谋划策。”李建成这才喜而上奏，请求担任第三位讨伐刘黑闼的统帅，高祖皇帝本来不放心让他去，直到听说魏征愿担任李建成的军师，才颁诏下去：任命太子李建成为陕东道大行台以及山东道行军元帅，河北、河南各州官员、将领一律受李建成的节制。
由于隋朝末年大战频发，隋文帝在和平时期设立的“州县两级制度”已无法支持战争的需要，像窦建德、王世充实力鼎盛时期，都手握数十州之多，如果让李世民等人以州县长官的身份领兵与他们交战，军事能力再强也无法与他们抗衡。所以相信朋友们也早已看出来了，唐朝新设了一个行政单位：道，一个道就相当于一个军区，比如说山东道，主管的是河北、河南的军务。“道”设置的初期，划分不像“东汉十三州”那么严格，直到唐太宗李世民登基后才逐渐规范起来，将天下分为十道；后来唐玄宗时期，因为大唐威名远播，疆域空前辽阔，为方便管理，又进一步改设为十五道。要着重说明的一点是，在唐太宗规范划分十道之前，陕东道大行台的地位一直是在其他大行台之上，相当于“第一军区总司令”，而且这一职位一直是由李世民担任。唐高祖此次改任李建成为山东道行军元帅的同时，又让他兼任陕东道大行台，其中的意义相信朋友们都已领会。
李建成肩负着父皇的殷切期盼，光荣挂帅出征，他的三弟李元吉带着败兵迎接他，成为李建成的副将。魏征询问李元吉之前和刘黑闼的交战过程，尚未与刘黑闼列阵而战，就提前恭贺李建成道：“太子殿下您已经赢了。”李建成又惊又喜，问魏征道：“先生为何有此一说？”魏征道：“刘黑闼之前被李世民打败后，其手下将士已明白无法与朝廷抗衡，之所以仍效忠刘黑闼，是因为齐王做了一件蠢事—他把俘虏的刘黑闼部将都关在牢中，一直未曾审判，也未曾释放。刘黑闼的士兵见状，以为被俘后只有一死，所以才迫不得已追随他。请您立即下令释放所有的囚犯，再加以慰问释放他们离开，刘黑闼的势力将迅速分崩离析，接下来要打败他易如反掌。”李建成依计行事，到前线不久即把所有被李元吉关押的俘虏统统赦免，这一计正中要害。别看刘黑闼打了好几个胜仗，但他的实力比起第一次起兵时已经严重衰弱，尤其是当初拥护他为王的范愿、董康买、曹湛、高雅贤等人死的死，逃的逃，除了这几个人，其他部下见大唐横扫大江南北，统一天下是大势所趋，早已不想追随刘黑闼了。听说李建成仁义为怀，此来只为诛灭刘黑闼，其他人既往不咎，刘黑闼的士兵数日之间如鸟兽散，一下子逃去大半。李建成等攻心之计奏效，然后从容与刘黑闼交手，一战便几乎全歼敌军。刘黑闼没脸再逃往突厥求助，只好在河北东躲西藏，到了第二年正月，其属下叛变将刘黑闼拘捕，献于李建成。李建成将刘黑闼和其弟刘十善斩首，献捷于朝廷，山东道从此彻底平定。
刘黑闼败亡半年之后，另一位不速之客在江东打出了反对唐朝的大旗。这人不是别人，正是杜伏威的义兄辅公祏。众所周知，杜伏威和辅公祏曾是刎颈之交，杜伏威当上吴王后，感激辅公祏当年偷羊之恩，依然尊辅公祏为义兄，且下令国人不准直呼其名，一律称之为辅伯。辅公祏这时已经年老，本来对杜伏威也挺感激，在他看来，杜伏威既入朝当了大官，江东这地方还得有人打理，谁接管江东最合适呢，当然是我“辅伯”了。而且杜伏威没有儿子，只收养了两位义子，从情分上看，辅公祏确实是杜伏威最亲近的人。如辅公祏所料，杜伏威去长安之前，委任辅公祏留守江东，并让义子王雄诞担任辅伯的副手。但辅公祏还没来得及高兴，却得杜伏威的手下前来告密：“吴王说了，他去长安后，如果朝廷并未将他吴王的爵位撤销，江东依然还是他一人的。他让王雄诞牢牢看住兵权，说千万不能让辅伯趁机窃取江东。”
辅公祏气坏了：“要不是当年我冒着风险偷羊给杜伏威这小子吃，他早就饿死了，想不到他表面仗义，实则两面三刀，竟然如此待我！”辅公祏这人心眼也实在小，恨由心生，竟暗自琢磨道：我年纪比杜伏威大，如果同归于尽，我比他值！哼，兄弟，别怪我不义，你不让我好过，我也不会让你舒坦！大唐天子对待反王从不留情，如果我背叛朝廷，你脱得了关系吗，大不了一起死！
辅公祏说干就干，真的在江东造起反来。谋反之前，辅公祏谎称杜伏威连王雄诞也不放心，专程派人前来过问王雄诞这段时间在干什么。王雄诞为证明自己对义父的忠诚，在家中称病，足不出户，辅公祏因此轻易夺取了整个江东的军队。等到王雄诞听说辅公祏正令人打造武器，储存军粮，并企图称帝，改国号为宋时，才知大事不妙。他慌忙去见辅公祏，声泪俱下地劝他道：“如今天下刚刚统一，大唐的军队所向无敌，义父正是明白无力与其抗衡，才主动请求入朝，辅伯您又何必自寻灭族之祸？”
辅公祏不会不明白这道理，但与其说他是反对唐朝，不如说他是一心想拉着杜伏威下水，他干脆地告诉王雄诞：“你追随我起兵，可饶你一死，你不听我号令，我这就杀了你！”王雄诞严词拒绝道：“随你谋反，最多多活一百日，我宁可死，也不能陷我义父于不义。”辅公祏一挥手，令手下取绳前来将王雄诞活活勒死。然后，辅公祏在丹阳（今江苏省南京市）称帝，定国号为宋，效仿大唐一样设置“XX道大使”“XX州总管”等百官，又派人修复陈朝留下的旧宫殿，作为自己的皇宫。