从李密、窦建德、刘武周等人建立政权的过程来看，这些人都是非常杰出的人才，放在任何朝代都能建立起一番事业。他们的集体出现，让身在江都的隋炀帝惶恐不安，时常引镜自照，手抚颈项悲叹道：“大好头颅，谁当砍之？”同样惊恐的还有各地的隋朝官员，连皇帝都没信心镇压各路义军了，他们当然也得及时考虑该何去何从。一日，家住附近的晋阳宫副监裴寂、晋阳县令刘文静二人在夜间听见城外有喧闹声，同时登上城楼向远处眺望，只见十几里外，火把如同天上的繁星，不知又是哪一路起义军刚从晋阳附近经过。裴寂见状，忍不住叹息道：“形势已然如此，乱世重新降临是不可避免的了，不知道我该怎么保全自己呢？”一旁刘文静听了这话，笑着接过道：“形势其实是可以预知的，乱世虽不可避免，但根本不会伤及你我。”裴寂打量刘文静的脸色，见他丝毫没有为义军纷起而感到担忧，愣了一下，问刘文静道：“大人难道真的会预知形势吗？—为何你断定咱俩能够躲过这场灾难？”刘文静正视着裴寂道：“道理很简单，因为晋阳城在李渊将军手中，而李世民是李渊将军的儿子。那李世民绝非一般人，他性格豁达，仿佛是汉高祖刘邦，神态威武，又仿佛是魏武帝曹操，年纪虽浅，将来一定是由他来主宰天下。你我将来都会是辅佐他开国的大功臣，哪还用得着为眼下的困境担忧呢？”
裴寂微微摇头，表示不信。
这番对话才结束没过几日，自诩有“先知能力”的刘文静就被李渊打入了监狱，原因是隋炀帝又派人从江都来通知李渊：“李密现已投奔瓦岗，被翟让等人推举为魏公。”李渊听说李密竟敢明目张胆地建立西魏政权，第一时间派出军队擒拿刘文静，只等秋后处决—李密和刘文静有姻亲关系，李密既然谋反，证据确凿，刘文静受连坐之刑，自然死罪难逃。刘文静被打入监狱后，李渊严令任何人不得为他求情，也不准前去探视，他的邻居裴寂等人都为他捏一把汗，刘文静却神态自若，在狱中饮食如常。狱卒们感到很奇怪，问刘文静道：“大人犯的是死罪，难道一点也不会害怕吗？”刘文静笑道：“自有贵人前来搭救我，我何惧之有？”
果然，当夜就有一人带着几名随从来到晋阳大狱，通报狱卒道：“二公子有话要问刘县令。”二公子，自然就是李世民了。狱卒虽有李渊的命令，见是二公子到，哪敢阻拦，忙亲自把他带到刘文静的关押之处。李世民待见了刘文静后，屏退左右，轻声问对方道：“我来探视你，是有一件大事要与你商议，不知道你可有什么谋划？”刘文静道：“公子所谓的大事，是准备效仿汉高祖、汉光武帝，成就像他们一样的事业吗？”李世民见刘文静一言中的，遂微微一笑，不再说话。刘文静接着道：“皇帝常年呆在江都，不问世事，天下诸侯林立，群盗纷起。在下官看来，隋朝灭亡已不可扭转，不久将会有一位真正的天子出现，驱使、驾御这些豪强，重新夺取天下。如果公子已决定起兵，下官建议您尽早离开晋阳，率军夺取关中，因为只有在那里，才能成就帝王大业。”
李世民听后，作揖谢道：“大人的话，正合我的心意。”说完转身告辞。刘文静在身后叫住他道：“下官戴罪之身，有些事帮不了您，您若有其他难题，可以再和裴寂商量。”
再说自从王仁恭被杀，刘武周带着马邑的军队投靠了突厥人，李渊如同损失一臂，此后再与突厥人交战，胜少败多。江都的官员为此弹劾李渊，建议隋炀帝尽早把他押回江都治罪，另挑选其他人担任晋阳守将。有人将这事暗下致信李渊，李渊十分担忧，不知道该如何是好。李世民既已和刘文静商议过起兵之事，决心脱离朝廷的控制，他了解父亲的难处，趁机向李渊进言道：“父亲如果继续效忠于江都的话，哪怕皇帝不杀您，李密、窦建德、刘武周这些群雄也一定会杀了您。在孩儿看来，您为何不尽早和江都划清界限，也加入那些起义军的行列？您为人仁厚，素得天下人信服，如果这时起兵，一定能够抢在其他诸侯之前率先进入关中。”
李渊大怒，斥责李世民道：“当今之世，谁都能当反贼，唯独我父子不可。我们李家是皇亲国戚，与大隋杨氏有血脉之亲，我李渊宁可被人杀头，绝不屑与那些叛军为伍！”说完一声令下，让侍卫把李世民捆了，押去江都交给皇帝发落。侍卫们急忙为李世民求情，说二公子如果真去了江都，定是死路一条，还望李将军开恩。李渊过了好一会儿，才收起铁青的脸色，同意给李世民松绑，但同时警告二儿子道：“刚才那种大逆不道的言论，你如果再敢说第二遍，休怪为父不念父子之情。你退下吧。”
李世民没想到父亲对杨广这位暴君竟会如此忠诚，甚至不惜大义灭亲，他无计可施，突然想起刘文静说过，有难题可以找裴寂商量。他因此去找晋阳宫副监裴寂，想让裴寂帮忙劝说父亲。哪知裴寂刚得知消息，说李渊将军因李世民怂恿他谋反，差一点就把李世民押解去江都杀头，他唯恐自己被李世民牵连，便推脱有事不肯相见。李世民有几百万枚私房钱，他为了得到裴寂的支持，心生一计：让自己的随从用马车拉着他的全部积蓄去找裴寂赌博，仅一个下午，李世民的随从就把一马车的铜钱全部输光。然后李世民的随从才对裴寂说道：“这些钱是二公子送给您的见面礼，这下可以见他了吗？”裴寂这下不想同意也不行了，只好主动去李世民府上拜见二公子，李世民把他和刘文静商议的大事向裴寂说了，让他想方设法把父亲李渊也拉入伙。裴寂想了想道：“这事其实说难也不难，包在下官身上便了。”
裴寂身为晋阳宫副监，是李渊的副手，二人关系非比寻常。裴寂得了李世民交给他的任务，于是出了二公子的府邸，就去找李渊喝酒，顺便带了两位女子作陪。那两位女子又是给二位大人斟酒，又是给二位大人夹菜，伺候了李渊和裴寂一晚上，等李渊酒过三巡，喝得面红耳赤了，裴寂才突然问李渊道：“李将军知道这两位女子是什么人吗？”李渊醉醺醺地问道：“她们是什么人呀？”裴寂桌子一拍，厉声道：“李渊啊李渊，你好大的胆子，竟然敢让皇帝的宫女伺候你，我看你是活腻味了吧！”
李渊顿时酒醒了，问裴寂道：“什么，你说她们是皇帝的宫女？”裴寂道：“晋阳城中有皇帝的行宫，她俩是留守皇帝行宫的宫女，当今天子虽然很少来晋阳巡视，但行宫内的宫女，从来只伺候皇帝，不伺候大臣。”李渊见把柄被裴寂拿住了，瞠目结舌地道：“那怎么办，此事泄露出去，你杀头不要紧，我一族老少也要和你一起遭殃，裴寂啊裴寂，你为何要害我？”裴寂让二位宫女退下，这才从容说道：“实不相瞒，下官是奉二公子之命，故意请将军入瓮的，现在二公子起事用的兵马、旌旗都暗中备好了，只等您振臂一呼，就能高举义旗，行得大事。您却不同意助他一臂之力，我和他没有别的办法，只能定下这条应急的策略，还请将军恕罪。”李渊听后叹了口气道：“李世民之前确实向我讲述过此事，我当时虽然发怒，但事后仔细想过，他的话也着实有些道理。杨广登基以来作恶太多，天怒人怨，他的败亡已是大势所趋，如果继续效忠于他，等到他败亡后，我等也定会被那些叛军视为杨广的同党，一并加以诛灭。罢了罢了，既然你等心意已决，我赞同李世民的观点也就是了，这件事就由他做主吧，我今后不会再表示反对。”
和李密、窦建德、刘武周一样，李渊也被他的儿子李世民和他的副官裴寂、刘文静合伙拉下了水，成为了第四支反抗隋炀帝暴政，且具备逐鹿天下资格的义军势力（像之前甄翟儿率领的起义军等，由于首领缺乏政治远见，完全属于流匪性质，和这四支义军势力不可同日而语）。让李渊喜出望外的是，他的嫡长子，之前在河东一带巡视的李建成在李渊决定起兵之后返回晋阳，也赞同他二弟李世民提出的应当尽早起兵，控制关中的主张。李渊兴奋道：“你们兄弟二人能够同心协力，成功就指日可待了。”
出兵！准备向长安进发！