武德四年（公元621年）年初，洛阳周边地区的战事仍在继续。

经过近半年的进攻，唐军清除了王世充在洛阳周边的据点，逐渐逼近洛阳城。唐行台仆射屈突通、赞皇公窦轨二人率军视察各营，突然与王世充的军队遭遇，唐军猝不及防，失利。李世民率领玄甲军赶到，将王世充的军队打得大败，生擒其骑兵将领葛彦璋，斩杀俘虏六千多人，王世充狼狈逃回洛阳。王世充的太子王玄应率领数千人从虎牢关向洛阳运送粮食，李世民派遣将军李君羡在半道截击，再次大破敌军，王玄应差一点被唐军俘虏。

在清除洛阳周边据点之后，李世民派遣宇文士及回到长安，向唐高祖李渊禀报，请求允许自己率军包围洛阳。李渊对宇文士及说：“回去告诉你们大王：如今我命令你们夺取洛阳，目的只有一个，那就是要息兵安民，城破之日，御用物品、图书兵器这些不应由私人保存的东西，由你负责接收；至于城内的金银财宝、男子妇女，全部分配赏赐给将士们。”

接到李渊的命令后，武德四年二月十三日，李世民率领唐军进驻青城宫。唐军营垒尚未建立，王世充就率领两万郑军从方诸门出城，依托故马坊的残垣断壁，面临毂水与唐军对峙。李世民率领精锐骑兵在北邙山上立下阵势，登上北魏宣武陵远远眺望郑军，对众将说：“敌人已经到了穷途末路了，如今倾巢出动，意欲侥幸一战而胜，今天如果能击破他们，以后就再也不敢出城了！”于是，他下令屈突通率领五千步兵渡过毂水迎击郑军，并告诫屈突通说：“双方一交战，你们就燃起狼烟。”

李世民惯常使用的战法就是：以一部兵力与敌人接战，在双方进行缠斗时，李世民再亲率精锐的玄甲骑兵突然杀入敌人背后，或者横扫敌阵，搅乱敌人，经过骑兵这一搅和，唐军往往能取得胜利，这一次，李世民显然也是让屈突通所部充当诱饵。果然，屈突通与郑军交上手之后，即按照指示点燃起了狼烟，望见后，李世民即率领玄甲军一路南下，他身先士卒，与屈突通合兵一处，与敌人激战。李世民想侦察出郑军军阵究竟有多厚，在数十名精锐骑兵的保护下，径直向郑军纵深杀来，一直杀到郑军的背后，又从郑军的阵后返身杀回，一路所向无敌，杀伤了很多敌人。在厮杀中，李世民一行被长堤阻挡，随从全部失散，仅有丘行恭一人追随。数名郑军骑兵追了上来，李世民的坐骑被流箭射中，倒毙身亡，丘行恭调转马头，返身弯弓搭箭，回射追兵，无不应弦而倒，追兵不敢近前。丘行恭下马把坐骑让给李世民，他自己则手持长刀，冲在马前，腾跃大呼，斩杀了数名郑军，与李世民二人突出郑军重重包围，得以回到唐军军中。王世充也率领郑军输死搏杀，被打散以后又重新集结，继续战斗，如此情况出现了三四次，战斗从上午七点左右一直打到中午十二点，王世充才下令撤退。李世民纵兵追击，一直追赶到洛阳城下，又斩杀俘虏了七千多人，趁势包围了洛阳。唐骠骑将军段志玄在激战中，战马倒地，被郑军俘虏，两名郑军骑士抓住段志玄的头发，夹持着返回洛阳，将要渡过洛水，段志玄一跃而起，将二人打入水中。段志玄策马返回唐军，郑军数百骑兵，无人敢上前。

二月十四日，王世充又率军从右掖门出城，在洛水岸边列阵。唐骠骑将军王怀文曾侦察敌情，被郑军抓获，王世充想拉拢他，对他关怀备至，还把他带在身边。这时，王怀文突然手持长枪，矯hong王世充刺来，王世充身上暗披重甲，长枪刺去，竟然折断。由于事发突然，王世充的卫士们竟然呆在那里，不知所措。王怀文逃往唐军，行至泻口，被郑军追上，杀死。王世充回到城内，解下铠甲，脱去上衣，对群臣说道：“王怀文用长枪刺我，我毫发无损，这难道不是天意吗？”隋朝御史大夫郑颋不愿在郑国为官，经常称病不朝，此时，他趁机对王世充说：“臣听说佛有金刚不坏之身，陛下正是如此。臣确实幸运，能生活在佛降临之世，希望陛下允许我削发为僧，精进修行，以增添陛下的神武。”王世充回答：“大人是国家的大臣，声望显赫，一旦遁入空门，将骇人听闻，等到天下安定之后，就听从你的意愿。”郑颋反复请求，王世充就是不同意。回到家中，郑颋对妻子说：“我从小进入官场，立志珍惜名节，不幸遭遇乱世，以至于流落到此，侧身猜忌之朝，身处危亡之地，且我的智力浅薄，难以自全，人生总有一死，只是早晚而已，姑且顺从我的爱好，即便是死了，又有什么可遗憾的呢！”遂不再恳请王世充，径自剃去头发，身披僧服。王世充听说后，不禁大怒，说道：“此人断定我一定会失败，想借此苟且偷生吗？不杀此人，我就难以制服众人了！”遂下令将郑颋公开处决。临刑前，郑颋谈笑自若，旁观的人都赞叹他的勇气。

二月二十二日，郑国宋王王泰放弃河阳逃走，部将赵夐等人降唐。郑将单雄信、裴孝达与唐总管王君廓在洛口相持，秦王李世民率领五千步骑前去增援，行至轘辕，单雄信等人撤离，王君廓追击，将其击败。