窦建德以李世勣为左骁卫将军，命其继续驻守黎阳，把其父李盖带在身边当人质；又以魏征为起居舍人。滑州（今河南省滑县）刺史王轨的奴仆杀掉王轨投降，窦建德说：“奴仆杀死主人，这是大逆之罪，我岂能接受！”当即下令斩杀了那位奴仆，把王轨的人头又送还滑州，滑州百姓非常感动，当天就投降了，于是，周边郡县以及盘踞在兗州一带的徐圆朗也都投降了窦建德。十月二十二日，窦建德返回洺州，修筑万春宫，定都于此，把李神通软禁在下博（今河北省武邑县），待以客人之礼。
九十八、关东局势（1）
李世勣虽然被迫投降了窦建德，但一直心向唐朝，他打算投奔唐朝，又担心父亲被害，一直左右为难。
他向郭孝恪问计。郭孝恪回答：“我们刚刚投靠窦建德，稍有风吹草动，必然受到怀疑，应当先立下战功，取得信任之后，再说不迟。”李世勣答应了，遂率军袭占了王世充的获嘉（今河南省获嘉县）。此战，李世勣缴获了大量物资，全部献给窦建德，从此以后，就获取了窦建德信任。
刘黑闼（ta）是窦建德的同乡，二人都是漳南（今河北省故城县）人，还是好朋友。此人在当地是一个无赖，嗜酒如命，又喜欢赌博，家里很穷，窦建德经常资助他。隋末大乱中，刘黑闼追随郝孝德当了强盗，后又跟了李密，担任裨将。李密失败后，被王世充俘虏。王世充素来听说刘黑闼骁勇，就任命他为骑兵将领。刘黑闼根本看不上王世充的所作所为，经常暗中耻笑。王世充命他驻守新乡（今河南省新乡市），被李世勣俘虏，献给了窦建德，窦建德任命他为将军，封为汉东郡公。刘黑闼不仅勇猛，而且狡猾，窦建德经常命其率领奇兵四出掩袭敌人，有时则命他负责侦察，深入敌境探听虚实，刘黑闼往往能出其不意，得胜而还，在窦建德的军中号称神勇。
当李世民率领唐军在柏壁与宋金刚相持、独孤怀恩寻找机会试图刺杀唐高祖李渊之时，无独有偶，黎阳的李世勣也在酝酿着一个除掉窦建德的惊天计划。他派人劝说窦建德道：“曹州（今山东省曹县）和戴州（今山东省成武县），户口充实，如今被孟海公占领，与郑国人（指王世充）貌合神离，如果我们率领大军前去，将唾手可得。一旦平定了孟海公，再兵临徐州（今江苏省徐州市）、兗州（今山东省兖州市），黄河以南之地可不战而得。”李世勣阴谋趁窦建德来到黄河以南，伺机掩袭他的大营，一举将其诛杀，而窦建德却浑然不觉，他觉得李世勣说的有理，遂打算亲自率军南下，夺取黄河以南的土地，就派行台曹旦（窦建德妻子的哥哥）等人率领五万大军先行渡河，李世勣则率领三千人马与曹旦会合。
正巧窦建德的妻子生产，窦建德本人一直没有南下，而曹旦在黄河以南地区却胡作非为，无法无天，弄得原本表示归降的郡县都非常怨恨。魏郡（今河南省安阳市）人李文相，绰号李商胡，拥有五千部众，盘踞在孟津的中潬城（黄河河中小岛），其母霍氏，也擅长骑射，号称霍总管。李世勣与李商胡结为兄弟，拜见霍氏。霍氏向李世勣哭诉道：“窦家无道，为何要归顺他！”李世勣说：“母亲不必担忧，不出一个月，我将杀死此人，一起投唐！”李世勣辞别后，霍氏对李商胡说：“东海公（指李世勣）答应与我们一起除掉此贼，拖得太久，就会出现意外，不如速速行动。”当天晚上，李商胡请曹旦手下二十三名将领们前来饮宴，等到把他们灌醉之后，全部将其诛杀。曹旦的另外两名将领高雅贤和阮君明二人尚在黄河北岸没有南渡，李商胡用大船把其中的三百多人运到南岸，船行至黄河中心，又将这三百多人全部杀掉了。有一名兽医跳入黄河，游到南岸，向曹旦报告，曹旦赶忙整顿军队，做好了戒备。李商胡行动之后，才派人告诉了李世勣。李世勣的军营与曹旦的军营相距不远，郭孝恪劝他偷袭曹旦，李世勣犹豫不定，还没有发动，不久，就听说曹旦已经戒备，就与郭孝恪一起率领数十名骑兵，丢下军队，逃归唐朝。李商胡又率领两千精兵偷袭黄河北岸的阮君明所部，将其击败。高雅贤搜集残兵败将仓皇而逃，李商胡追赶不上，只好折返。
听说李世勣叛逃的消息，众人均劝说窦建德杀掉李世勣的父亲李盖，但窦建德却没有同意，他说：“李世勣是唐朝的大臣，被我俘获，却不忘本朝，这样的人是忠臣啊，他的父亲又有什么罪过呢？”遂赦免了李盖。
武德三年一月三十日，李世勣、郭孝恪逃到长安，不久，李渊就把李世勣派到了并州前线。曹旦夺取了济州（今山东省东阿县），又率军回到了洺州。不久，窦建德发兵进攻李商胡，将其斩杀。窦建德在洺州劝课农桑，把境内治理得井井有条，很快就出现了夜不闭户路不拾遗的太平景象。
五月，在秦王李世民夺回并州之后，窦建德又派遣高士兴进攻幽州的李艺，再次遭到挫败，退回笼火城（今北京市南）。李艺发动袭击，大破高士兴，斩杀五千多人。窦建德的大将军王伏宝勇冠三军，众将对他都非常嫉妒，向窦建德进谗言，称王伏宝将要谋反。窦建德不辨真假，就下令杀掉王伏宝，临刑前，王伏宝说道：“大王为何听信谗言，要自断左右手呢！”但窦建德却置之不理。
再说王世充。
武德二年四月王世充称帝之后，也一直试图扩充自己的地盘。五月，他派兵攻克义州（今河南省卫辉市），继而进逼西济州（今河南省济源市）。唐朝政府派遣右骁卫大将军刘弘基率军前去救援。七月，王世充又派罗士信、郭士衡进攻穀州（今河南省新安县），结果，罗士信降唐，郭士衡战败；同月十八日，刘弘基又派遣部将种如愿袭击王世充军队驻守的河阳城（今河南省孟州市），捣毁了黄河大桥。八月十日，唐朝将领秦武通率军进逼洛阳，击败了王世充的部将葛彦璋。十月，唐行军总管罗士信率领猛士趁夜突入洛阳外城，纵火焚毁了清化里，二十七日，罗士信攻下了青城堡（今河南省洛阳市西北）。