秦王李世民率领唐军再度来到高墌后，薛仁杲命令大将宗罗睺领军前来迎战。宗罗睺屡屡挑战，但李世民却始终坚守不出，唐军众将请求出战，李世民却说：“我军刚刚战败，士气低落，敌人自恃取得了大胜，轻视我军，应当固守堡垒，等待时机。等到敌人更加骄傲而我军士气高昂时，可一举将其击败。”于是，李世民下令：“再敢请求出战的，斩！”从九月一直到十一月，整整六十多天里，唐军一直与秦军相持着，直到把秦军的粮食全都耗尽了，秦军将领梁胡郎等人各自率部投降了唐军。
李世民见时机成熟，遂命令行军总管梁实率领本部人马在浅水原安营扎寨，引诱秦军前来。宗罗睺见状果然上当，率领精锐部队朝梁实发起了猛烈的进攻，梁实率部固守险要，就不出战；唐军被秦军切断了水源，营内断水，唐军接连数天都没有喝到一滴水，但他们仍然在坚持着。眼看梁实就要守不住了，李世民对大家说：“可以出战了！”等到黎明时分，他命令右武侯大将军庞玉率领本部人马在浅水原列下阵势。宗罗睺看到唐军出战了，赶忙撤下进攻梁实的部队，集中兵力，回过头来全力向庞玉发起了猛攻，庞玉的唐军眼看就要被秦军击败，李世民率领主力突然绕到宗罗睺的背后，出现在浅水原以北，宗罗睺发现后，赶忙又调转头来迎战。李世民率领数十名精锐骑兵率先冲入秦军，唐军内外夹击，喊杀声震天动地，宗罗睺的军队大败，被斩杀了数千人。
李世民率领两千多骑兵追击溃败的秦军。窦轨拉住李世民的马缰绳劝谏道：“薛仁杲仍然驻守在折墌城，虽然击破了宗罗睺，但不可轻举冒进，希望暂且休兵，观察一段再说。”李世民回答：“我考虑很久了，如今已呈现出破竹之势，机不可失啊，舅舅就不要再劝了！”薛仁杲在折墌城下列阵，李世民依托泾水与之相持，薛仁杲的猛将浑干等人临阵来降。薛仁杲害怕了，只好躲入城内固守。天色将晚时，唐军大部队陆续赶到，李世民遂下令将折墌城包围起来。此时，秦军士气全无，到半夜时，城内守军争相从城墙上下来投降。
十一月八日，在第一次浅水原之战后整整四个月，薛仁杲已黔驴技穷，只好出城投降，唐军俘获了一万多秦军精锐部队，五万多家眷。取胜之后，众将询问原因：“大王一战取胜，却丢下步兵，又不带攻城器械，只率领轻装骑兵直抵敌人城下，我们都觉得难以成功，最终却神奇般取胜了，这是什么原因？”李世民回答：“宗罗睺率领的将士们都是陇西之人，素来骁勇善战，我出其不意才将其击败，并没有斩杀俘虏多少敌人。如果我们进军稍稍迟缓，这些败兵就会纷纷撤回折墌城内，薛仁杲再予以安抚，我们就难以攻克了；我们乘胜进攻，这些败兵就来不及逃回折墌城内，而四散逃归了陇西，折墌城内就空虚了，薛仁杲失魂落魄，来不及思考应对之策，这就是我能够迅速消灭他的原因。”众人这才心悦诚服。
李世民把薛仁杲的降卒又交给薛仁杲兄弟及其手下大将宗罗睺、翟长孙等人统领，还与他们一起打猎，表现出一副毫无隔阂的样子，这令薛仁杲等人非常感动，打心眼里愿意替李唐卖命。李世民听说薛举的黄门侍郎褚亮曾劝说过薛举归唐，找到褚亮后，对他非常礼遇，引为秦王府文学。李世民虽然对薛仁杲及其手下众将恩遇有加，但唐高祖李渊却一直对薛举父子耿耿于怀，尤其是对他们残杀了大批唐军将士难以释怀，他派人对李世民传话说：“薛举父子残杀了我军大批将士，一定要将其同党全部斩杀，方能告慰我阵亡将士的在天之灵！”李密劝谏道：“薛举残杀无辜，这是他之所以灭亡的原因，陛下又有什么可怨恨的呢？对于已经归降的军民，不能不予以安抚。”唐高祖李渊命李密前去豳州迎接得胜还朝的李世民，李密自恃智略过人，兼有大名，他在李渊面前尚且面露倨傲之色，但等见到李世民后，竟然禁不住惊呆了，私下对殷开山说道：“真是位英雄之主啊！假如没有他，岂能扫平大乱呢？”
十一月二十二日，秦王李世民回到了长安。
李渊下令将薛仁杲及其已经归降的众将宗罗睺等几十人；赏赐常达三百段布帛，他对常达说：“你的忠节只能在古人中找到！”；追赠刘感为平原郡公，谥为忠壮，他还对令狐德棻说道：“要把常达和刘感的事迹记载在史书之中。”；在大殿之上棒杀了仵士政；腰斩了特别残暴的薛仁杲部将张贵。李渊犒赏将士们，并对群臣说道：“你们大家一起拥戴我登上帝位，如果天下太平，你我君臣可以一起享受荣华富贵，但是，假如东都的王世充成功了，你们大家就会像薛仁杲君臣们那样，岂能留下子孙？他们可是前车之鉴啊！”
十一月二十八日，李渊以刘文静为户部尚书，领陕东道行台左仆射，又恢复了殷开山的爵位。
李渊杀降令人不齿，除了报复心作祟外，主要还在于：一是担心尾大不掉。薛举父子手下猛将如云，在陇西地区拥有很大的影响力，很难驾驭，一旦有个风吹草动，极有可能成为刚刚建立起来的李唐政权的心腹之患，这与曹操诛杀吕布相似。二是安抚唐军阵亡将士家属。薛举父子残杀了很多唐军将士，与李唐基层军民结下了深仇大恨，李渊觉得留下他们十分棘手。三是猜忌心作怪。李渊太原起兵之初力量并不强，一路走来，全靠忽悠，招抚了关中大量变民集团，又借助隋恭帝的影响力，说降了一大批效忠于隋朝的地方官员，其间，李渊使出了浑身解数，一直在平衡太原功臣、关中变民头领、宗室贵族、旧隋地方官吏之间的利益，而重点则是要努力扩大宗室、外戚的权力，打压其他各派势力，以期巩固李唐政权。薛仁杲集团整体归降，让原本就已经感到基础脆弱的李渊更感到了巨大的压力，与其煞费苦心解决矛盾，倒不如快刀斩乱麻，一杀了之。