北周篡西魏后，追封李虎为唐国公。李渊之父李暎乒龉敝艿陌仓葑芄堋＠顣死时，李渊年仅七岁，袭封唐国公。待他长大，倜傥豁达，任性真率，宽仁容众，很得众心。入隋后，因姨母是隋文帝皇后独孤氏，属于皇亲，李渊累任大州剌史。
炀帝继位，李渊在地方和中央都做过宫，广树恩德，常多结纳豪杰。
炀帝征高丽，李渊在怀远镇督粮；杨玄感造反，李渊坐镇弘化，统率关右军事。
隋炀帝晚年多猜忌，一次，他下诏征这位表兄入见。李渊因病，未能及时赶到。李渊有个外甥女王氏为炀帝妃子，一次被御幸时，杨广问王氏：“你舅舅这次怎么没来拜见我？”王氏回言李渊有疾未至。炀帝若有所思，说：“这次他能病死吗？”
消息传至李渊耳里，可把这位爷吓得不轻，开始纵酒沉湎，纳贿自污，装成特别庸俗的样子。其实，当时隋炀帝不是特别“惦记”他，否则，正好以其“秽迹”来治罪。
隋炀帝被突厥始毕可汗围困于雁门，李渊很是出力，派李世民等人驰救。逃出生天后，杨广觉得这位大表哥还不赖，下诏李渊统领太原部兵马，与马邑郡太守王仁恭在北方防备突厥的入侵。
边塞虏劲，贼人众多，李渊起先还真不愿意前去。帝命难违，他只得硬着头皮出发。到了马邑，李渊与王仁恭合兵一处，总共不够五千人马。
盼了半天，王仁恭看见李渊才带这么少的人来，心中愈加恐惧，深怕突厥大军来袭，马邑不保。
李渊分析形势后，内心已定，他对王仁恭说：“突厥人的长处，在于他们熟谙骑射战斗。这些蛮族以弓矢为爪牙，以甲胄为常服，队不列行，营无定所，本性喜于劫掠，得胜大抢，败也不惭，所以，突厥人并无我们大隋军队警夜巡昼的辛苦，也无军储馈粮的消耗。如果稳扎稳打，按照常理与他们列阵交锋，我们根本胜不了敌方。现在，我们应学习突厥人的战法，以己仿彼，然后找机会给他们以致命性打击。”
众人深觉李渊之言有理。于是，隋军简选出精于骑射的兵士两千多人，饮食居止，一如突厥。随逐水草，远置斥堠。平时，这帮“仿突厥兵”见到真正的突厥小股部队，旁若无人，驰骋射猎，耀显威武。突厥人遇见这些汉人兵士，心里也很发毛。
李渊尤其善射，每见飞禽走兽，发无不中。突厥大股部队数次邂逅李渊带队的隋军，看到这些人走马如飞，射箭精准，总觉是自己人穿了隋军军装，常常犹豫再三，最终都不敢战而去。
如此数次，隋军兵士的自信心也增势了不少，军众心安，咸思奋击。
李渊见火候差不多，隋军欲战，突厥生畏，便趁一次与突厥主力相逢，纵兵大击，斩首数百千级。
突厥一战丧胆，深服李渊能将兵，好久不敢南入。
可见，李渊出手不凡，是文武兼备的人物。
大业十三年，隋炀帝下敕命李渊为太原留守，并遣亲信王威、高君雅任李渊的副手，一来助力，二来可以监视李渊。
当时，太原附近有不少贼众，最强的一支号称“历山飞众”，于上党、西河一带屡败官军，致使道路隔绝。隋朝军将与之争锋，丧命不少。
李渊初到任，正好拿这伙人立威，便率五千多人出城讨伐。
到了河西雀鼠谷口，两军相遇。看见对方有两万多人，隋兵隋将皆生怯意。李渊从容不畏，对王威讲：“这些人起自盗贼，习惯贪财。近来又屡屡获手，骄心满溢，我们以智心筹谋，定能胜敌。所忧不战，战必克之。”
于是，李渊把隋军分为二阵，以老弱残兵居中，多张旗帜，大集辎重；以平日心腹精兵数百骑分置左右，为小队。
此时，隋军上下，皆不知这位皇帝大表哥到底要干什么。
敌军散列横阵，绵延十几里，步步逼近。
临战，李渊派王威领大阵居前，旌旗招摇。
对方看见帅旗居前，认为是隋军主将所在，纷纷调集最精锐部队，一齐呐喊向王威杀来。
王威暗叫倒霉，胯下马却鞭打不动，吓得他一头栽下，几为贼众生擒。
看见阵中遍是粮草辎重，贼军欢喜，个个跳下战马抢取值钱东西。
此时，一旁观斗的李渊，忽然率领小阵左右二队，大呼而前，夹而射之。
乱箭如雨，贼众大乱。隋军因而纵击，所向摧陷，斩首无数……
经此一战，李渊在太原落稳脚跟。
后来，突厥人知道李渊回到太原，马邑只有王仁恭等人，便放开胆子又来入侵。
隋炀帝闻讯，下诏派太原副留守高君雅率兵前往马邑，与王仁恭共抵突厥。
王仁恭先前跟随李渊与突厥打过几仗均得胜，胆子变大，不听李渊让他坚守不出的指令，也想得胜立威，不料出兵即败，损兵折将。
隋炀帝人虽在江都，仍有人上告李渊、王仁恭不积极备战，说他们“纵虏为患”。
杨广大怒，派出司法人员，到太原把李渊抓了起来，关进监牢，并准备斩掉王仁恭。
当时，李渊长子李建成不在身边，只有二儿子李世民在城内。小伙子性急，泣求父亲赶紧造反。李渊老姜，知悉时机还未成熟，便大讲“天命”，劝李世民不要太急于起兵。
果然，不久就有炀帝诏使驰至，宣布释放李渊与王仁恭，命其依旧统领军队。
当时，隋朝已经天下大乱，盗贼蜂起，朝廷信使往往误期不能到达各处城市。惟独炀帝这一介下赦免令的使臣，一路上不逢劫掠，依程到达，众人都发叹异。
李渊乍听御使至，也是大惊。等听到赦免令，他仰天而笑，说，“此后余年，实为天付。”
由此，老英雄也下了必反之心，只是要发未发之际，多怀逡巡犹豫之心。
推动李渊最终兴兵造反的，除李世民外，关键要属刘文静与裴寂二人。
刘文静，字肇仁，他伟姿仪，有器干，倜傥而多权略，时为晋阳令。裴寂，字玄真，时为隋朝晋阳行宫的宫监。这两个人一处为官，相知甚洽，结为好友。
一夜，哥俩赌钱饮酒，裴寂遥见城外烽火，凄然长叹：“遭逢乱世，家道屡空，真不知该怎么办才好。”
刘文静笑道：“世途如此，时事可知。我们二人相扶相倚，还怕不发达吗？”
李渊入太原，刘、裴二人暗中观察，见其有大志，便起劲巴结这位英雄。
特别是刘文静，慧眼识人，认为李渊的儿子李世民“大度类于汉高（刘邦），神武同于魏祖（曹操），其年虽少，天纵之才。”
裴寂起初不信。后来，李世民与这位裴大叔假装赌钱，输给对方数百万，高兴之余，裴寂大喜，天天与李世民混在一起玩耍。李世民趁机倾诉衷怀，裴寂马上允诺“共举大事”。
不久，刘文静倒霉，他坐与李密（瓦岗那位爷）连婚，被炀帝下诏关入太原监狱。
李世民潜入牢中，与刘文静深谈。
“天下大乱，唐公若能兴兵一起，乘虚入关，不到半年，帝业可成！”一见面，刘文静就劝李世民。
李世民大喜，笑道：“君言正合人意。”
于是，他想方设法把刘文静先“弄出来”，然后四处部署，伺机欲发。
但是，不知父亲葫芦里卖什么药，李世民也不敢轻易动手。
刘文静诈称得隋炀帝手赦，大发兵民，以伐辽东为辞。听说皇帝又要打仗，太原城内人情大扰，众心思乱。
眼看水已经搅浑，刘文静催促裴寂赶紧鼓捣李渊起兵，并威胁说：“您身为晋阳宫监，却把宫中美人送给唐公享用，此事传出，您与唐公哪个也活不了啊！”
大惧之下，裴寂屡促李渊起兵。
恰巧，马邑人刘武周结众为盗，杀太守王仁恭，自称天子，诱引突厥兵马，准备向太原挺进。
李世民、裴寂、刘文静借此机会，大发库金，分散府物，四处招兵买马。
太原副留守王威、高君雅是炀帝心腹，他们闻讯起疑，获悉李渊父子异动，一合计，便想以到晋祠祈祷为名，把李渊诱至其地拘捕，一网打尽。
关键时刻，“吉人自有天相”。晋阳有个叫刘龙的土豪乡长，通过裴寂与李渊相识。李渊贵为帝亲，与这么一个“副科级”的财主一见如故，喝酒吃肉，豪赌打炮。刘龙这种卑贱出身的“微细”之人，自然心中感激涕零，觉得李渊很给自己面子。同时，由于刘龙有钱，与副留守高君雅关系也不错。高君雅想“办掉”李渊，饮酒之际，自然就不拿刘龙当外人，把己谋全盘告之。
刘龙出了高君雅府门，一溜烟直奔李渊宅邸，具以实情相告。
心惊肉跳之余，李渊表面镇静，对刘龙说：“您能以此事相告，深有至诚。请不要再对别人说，我自有安排。”
李渊暗下决心，事已至此，不反也得反。
大业十三年农历五月丙寅清晨，李渊“恶人先告状”，大集僚属，声言高君雅、王威两人引突厥入寇。他先发制人，当众逮捕了两人，送入监牢。
两人叫苦不迭，直悔动手过晚。
更绝的是，过了两天，果然有突厥数万骑抄逼太原，这些武装蛮族纵入城廓北门，穿越城内，从东门而出。
李渊也不畏惧，派先前招降的贼师王康达出城埋伏。
王康达等人习惯了抢略，突厥军队过了一半，中有缺停，王康达误认为是队尾，他忽然率军跳出，准备抢马。不料，后队突厥包抄，前队突厥掉头，前后夹击，把这批“新附军”包了饺子。
太原城内居民，一恨高君雅、王威“引狼入室”，二畏突厥兵马强盛，三惊城内军兵众多。忧恐之下，他们更加紧密地“团结”在李渊周围。
李渊指挥若定。他派遣小股部队连夜偷偷出城，占据险要之地，然后，又让这些人白天大张旗鼓，大呼入城，给突厥人造成“援军不断”的假象。同时，他嘱诫军士，遇到突厥兵，恃险勿战，敌退勿追，使敌人弄不清太原守将到底要干什么。