李渊起兵后，辽山（今山西省左权县）县令高斌廉和西河（今山西省汾阳县）郡丞高德儒不从，其中，高斌廉向江都的隋炀帝禀报了李渊起兵的消息，隋炀帝当即下令洛阳和长安地区的驻军加强了戒备。由于辽山在太原东南，而西河正处于入关的通道之上，因此，李渊说道：“辽山不过是个自守之敌，不足为虑。西河郡当我通道，不可不攻。”遂命令李建成和李世民率军拔掉西河这颗钉子。
六月五日，李建成、李世民率军南下，带上三天的粮食，打响了太原起兵后的第一仗。临行前，李渊对两个儿子说：“你们年少，没有经历多少世事。先让你们进攻此郡，就是看看你们的作为，大家都看注视着你们，你们要努力啊！”二人跪下回答：“儿等早蒙教诲，又追随大人，不敢懈怠。家国之事，忠孝在此，接受了将令，即当圆满完成使命，如若不能，甘愿受到军法惩处。”李渊又派温大有（即温彦将）同行，他说道：“我儿子年轻，以你参谋军事，大事成败，当以此行来占卜。”李渊对前途也没有把握，如果一切顺利，才敢入关，如果不行，就只能固守晋阳，当个草头王了。当时，军队都是新招募的，李建成、李世民与士兵们同甘共苦，身先士卒；路边的蔬菜水果，不是买的不吃，士兵们有偷窃的，总要千方百计找到卖主，自己拿出钱来补偿卖主，也不惩处士兵；路边遇到老人送上食物、果蔬的，害怕伤害了老人们的好意，只得接受下来，但与见到的将士们一起分了，未曾独自享用，因此，不论是百姓还是士兵都非常感激、喜悦。义军来到西河城下，有想入城避难的百姓，也一律放行。李建成和李世民身穿便装，来到城下劝降，但高德儒不听。六月十日，义军向西河郡发起进攻，郡司法书佐朱知瑾等人从城墙上引导义军攻入城内，遂生擒了高德儒。李建成和李世民等人斥责高德儒道：“过去，你曾经遇见一只野鸟，谎称见到了凤凰。欺瞒人主，与赵高的指鹿为马是多么相似！义兵如今要辅佐王室，不能不诛杀你这种奸佞之辈！”即斩杀了高德儒一人，其余秋毫无犯，各令恢复旧业，远近百姓听说后，都非常高兴。李建成等率军返回晋阳，往返仅用了九天。李渊大喜，说道：“就这样用兵，即使在横行天下，也能做到！”当天，即定下了入关之决策。
一百二十一、喋血玄武（1）
武德九年（公元626年）六月一日，金星在白天划过天空。据《汉书?天文志》的记载，出现这种天象，预示着天下将要改朝换代，更换君主。
时至今日，李建成、李元吉与李世民兄弟之间的矛盾已不可调和，相互之间的争斗也趋于白热化了。如前所述，李世民觊觎皇位由来已久，也有着深刻的历史原因，具体说来，大致可以从以下几个方面进行分析：一是李世民原本就是李渊比较欣赏的一个儿子。《新唐书?李元吉传》称：“初，元吉生，太穆皇后恶其貌，不举，侍媪陈善意私乳之。”说明，李元吉从小就不得其母窦氏的喜爱，大约李渊对他也是不太喜欢的，这可能也是李渊驻守太原，而把他留在河东的一个原因，至于李建成也留在河东，勉强可以视为是李渊让这个长子看护家园，还没有直接证据证实李渊也不喜欢这个孩子，但是，李渊将李世民一人带在身边，显然就说明他喜爱这个孩子的。二是唐初局势的客观需要。由于在太原起兵之前，李世民直接参与了谋划、组织，因此，在起兵之后，他的身边就有了属于自己的武装，正是基于此，在李建成和李元吉来到晋阳后，李渊才没有把所有的军队都交给比李世民大九岁的李建成，而是赋予了李世民与李建成同等的领兵权，在西河之战中如此，
六十六、太原起兵（4）
李渊下令开城放粮，赈济贫民，在这一措施的激励下，应征入伍的人越来越多。李渊将部队分为三军，每一军又分左右两翼，统称为义士，特设了宣惠、 绥德二尉官，按先来后到都给予这两种官职。裴寂等人推举李渊号称为大将军。史称，“及义兵起，（裴）寂进宫女五百人，并上米九万斛、杂彩五万段、甲四十万领，以供军用。”
六月十四日，李渊建立大将军府，以裴寂为大将军长史（并赐爵闻喜县公），刘文静为司马，唐俭及前长安尉温大雅为记室参军，温大雅与弟弟温大有一起掌握军中机密；又以武士彟为铠曹，刘政会、崔善为、张道源为户曹，姜謩为司功参军，殷开山为府掾，长孙顺德、刘弘基、窦琮、王长谐、姜宝谊、阳屯为六个左右统军；又以李建成为陇西公，左领军大都督，统领左翼三个统军，以李世民为敦煌公，右领军大都督，统领右翼三个统军，各自设置官属。以柴绍为右领军府长史，刘赡为西河通守。
张道源，并州祁（今山西省祁县）人；姜謩，秦州上邽（今甘肃省天水市）人，隋大业末为晋阳长；殷开山，即殷峤，雍州鄠县（今陕西省户县）人，陈司农卿殷不害的孙子，任太谷（今山西省太谷县）长，以文书写作而闻名。姜宝谊，秦州上邽（今甘肃省天水市）人，为左翊卫，后被晋升为鹰扬郎将，领府兵，随李渊征战，李渊起兵后，被任命为左统军。王长谐、阳屯、刘赡三人生平不详。
李唐建立后，确定十七名太原首义的功臣，他们分别是：尚书令、秦王李世民，尚书左仆射裴寂、纳言刘文静，特恕二死；左骁卫大将军长孙顺德、右骁卫大将军刘弘基、右屯卫大将军窦琮、左翊卫大将军柴绍、内史侍郎唐俭、吏部侍郎殷开山、鸿胪卿刘世龙、卫尉少卿刘政会、都水监赵文恪、库部郎中武士彟、骠骑将军张平高、李思行、李高迁，左屯卫府长史许世绪，约免一死。赵文恪，“并州人，为隋鹰扬府司马。义兵起，授右三统军。”张平高，“绥州人，为隋鹰扬府校尉，戍太原，遂预谋议。”李思行，“赵州人，避仇太原……以赞大议授左三统军。”李高迁，“岐州人，客太原，唐公引致左右。执高君雅等有功，以右三统军”。以上引文均出自《新唐书》卷一百一十。
与此同时，始毕可汗也接到了李渊的书信，他即派柱国康鞘利、级失、热寒、特勤、达官等人前来。六月十七日，康鞘利等人来到太原，他们送来一千匹马交易，并答应派兵送李渊入关，多少随意。第二天，李渊在晋阳宫东门侧室接见了康鞘利一行，对他们非常恭敬，赏赐给他们很多礼物。康鞘利等人大喜，退下后说道：“唐公见到我们这些少数民族尚且怎么懂礼节，对待汉人就可想而知了。尊敬别人的，别人也会尊重他；受到天下人的敬爱，就一定能当人主。我等见到唐公，也不知不觉地肃然起敬。”对他们带来的一千匹马，李渊下令只挑选其中上好的买下一半。义士们纷纷请求情愿拿出自己的家财把突厥这一千匹马全买下，李渊老谋深算，说道：“他们那里的马就像羊一样平常，还将源源不断地送来，我唯恐你们没那么多钱买呢。胡人贪得无厌，我们这次少买一点，既显示我们贫穷，又表现出我们并不特别需要马。我将与之再进行交易，不要着急，也不需浪费你们自己的钱。”
六月二十六日，高阳郡灵寿（今河北省灵寿县）变民头领郗士陵，率领数千人归附，李渊即任命其为镇东将军，封燕郡公，仍置镇东府，具补僚属，命其招抚山东郡县。不久，康鞘利等人北还，李渊也命司马刘文静回复，并命其借来突厥军队。在刘文静临别时，李渊告诫他道：“突厥兵来的多，百姓将遭遇一场大灾。数百名就够了，不需多要。我之所以向突厥借兵，是担心刘武周引来他们，制造边患罢了。况且，胡人马匹放牧，又不需要供应粮草，只不过用用他们壮一壮声势罢了，你要领会我的用意，不需带回太多的突厥军队。”李渊向突厥借兵是假，其真实目的就是借此加深与突厥之间的“友谊”，进而让一直对太原虎视眈眈的刘武周失去了南下的条件。刘文静领命而去。
刘文静北去之后，李渊即部署发兵入关了。
七月四日，李渊以四子李元吉为齐国公、太原太守，授予十五郡诸军事、镇北大将军，留镇太原，允许他“便宜行事”。
七月五日，李渊率领三万甲士从晋阳出发，在大营门口誓师，并向下辖郡县发布檄文，告知即将尊立代王之意；西突厥小可汗阿史那大奈（阿史那大奈在五年前被安置在楼烦郡）也率领本部人马随军一起进发。
七月六日，李渊命令通议大夫张纶率军镇抚稽胡部落，经略离石（今山西省吕梁市离石区）、龙泉（今山西省隰县）、文成（今地不详）等郡，掩护南下大军的侧翼。
七月八日，李渊来到西河郡，慰劳军民，赈济百姓。年龄在七十岁以上的老人都被授予通议、朝请、 朝散三大夫等散官，其余当地豪强也都随才录用。李渊亲自询问每个人的才能，亲笔填写授予的官职，一日之内封了一千多人的官；委任状也制作不出来，这些人就拿着李渊写的白条上任去了。史称：“帝特善书，工而且疾，真草自如，不拘常体，而草迹韶媚可爱。”
而后，李渊就率军进入了雀鼠谷（北起介休、中经灵石、南至霍州，长约７０公里）。
七月十四日，李渊的大军走出雀鼠谷，来到了贾胡堡（今山西省汾西县北），南距霍邑（今山西省霍州市）五十多里。霍邑西北有汾水流过，东面依靠霍太山，地理位置非常重要，当时，代王杨侑派遣虎牙郎将宋老生率领两万精兵驻扎在霍邑，左武候大将军屈突通率领数万骁果驻扎在河东（今山西省永济市），与宋老生相互声援；代王杨侑还命令临汾以东各郡军民全部固守城池，并接受宋老生和屈突通的指挥。