就在双方相持不下的时候，李世民忽然接到东部的警报：窦建德带着十万人马来援助洛阳，管州被攻陷，刺史郭士安遇害，荥阳、阳翟等县也多半失守。窦建德的人马水陆并进，眼看就要打到这里了。唐军大惊失色，连李世民也有些费解。正在疑虑的时候，有人报道：“窦建德派人送信，来使正在营外等候。”李世民看完来信，不禁微笑道：“他想让我退军潼关，并且返还归降的州城。试想我军到此已经快一年了，花费粮饷无数，损失大量人马，才得到这几十座州县。现在洛阳眼看就要攻下了，他却来劝我退兵还地，天下哪有这样的好事？”说完命令手下把来使扣在军中，然后召集众将商议。众将面面相觑，只有郭孝恪进言道：“王世充眼看就要完蛋了，现在窦建德也主动送上门来，这是天意要灭亡他们。我军可以据守武牢，伺机而动，必定能破敌。”李世民点头称是，于是召回屈突通，让他辅佐齐王李元吉围住东都，不得轻易出战。自己率领李世绩（徐世绩被赐姓李，现称李世绩）、程知节、秦叔宝、尉迟恭等人，点了三千五百名骑兵，向东杀奔武牢。
窦建德怎么想起救王世充了呢？原来，王世充屡战屡败，早就派了代王王琬和长孙王安世去河北求援。窦建德本来和王世充有矛盾，不愿意援救。偏偏中书侍郎刘彬进劝窦建德道：“如今天下大乱，李渊得了关西，王世充占了河南，我们得了河北，鼎足三分，互相牵制。现在大唐举兵攻打王世充，唐强郑弱，必定支持不了多久，到那时唇亡齿寒，恐怕我们也不能自保了。不如化解仇怨，发兵支援王世充，夹击唐军，唐军如果败退，我们合两国兵马乘胜攻入关中，说不定能一举统一天下呢！”这一席话说得窦建德鼓掌叫好，立即同意发兵援助。窦建德带领大队人马水陆并进，一路上接连攻陷管州、荥阳、阳翟等州县。路上遇见王世充的部将郭士衡，他是王世充的弟弟王世辩派来迎接窦建德的。窦建德一面致书唐营，一面派人给王世充报信，然后眼巴巴地等两方的回信。哪知秦王李世民已经带着骑兵过了河阳，直奔武牢杀来了。
窦建德见两个使者都没到，就派探马出营打探，才出去三里地，就看见前面有四个骑马的人，为首的拿着弓，随后的拿着槊，威风凛凛，迎面跑来。紧接着听那个为首的大声喝道：“我是秦王，你们看箭！”话音未落箭就到了，一个探子应声落马，剩下的人见势不好慌忙逃回。原来，李世民到了武牢，立即带领五百骑兵来探敌营，并沿途留李世绩、程知节、秦叔宝等人设下埋伏，自己领着尉迟恭和两个亲兵往前赶。敌人的探马刚刚回去，只见五六千骑兵迎面杀来。李世民等人边杀边退，敌军不知是计，一拥追来，才追出一里多地，四下里的伏兵就冲了出来。李世绩等人上前奋击，斩了三百多名敌兵，活捉了敌将殷秋、石瓒，残敌落荒而逃。李世民这才收兵回营。
李世民给窦建德写了封信，劝他撤兵。窦建德没有回信。从此两军进入相持阶段，双方多次交战，窦建德一点儿便宜也没讨到，反而损失了许多人马。窦建德有些胆怯，祭酒凌敬献计道：“唐兵现在占据武牢，我们很难前进，不如带兵渡过黄河，攻取怀州、河阳，养精蓄锐，然后大张旗鼓过太行山，占据黄河以东来威胁关西，这才是上策。”窦建德道：“我如果去取河东，洛阳还能不亡吗？”凌敬道：“依臣的意思，攻取河东有三个好处。唐兵都在洛阳，我们可以乘虚攻打别处，会很安全，这是第一个好处；拓展土地，扩大势力，这是第二个好处；我军一旦进兵大唐，唐兵必然撤回关中救援，洛阳的围困自然化解，这是第三个好处。如果失去这个机会，战事势必旷日持久，到那时不但洛阳要完蛋，就连我军恐怕也会陷入危险。”窦建德沉思好半天，道：“你说得也有道理。”正在这时候，王世充派侄子王琬和长孙王安世又来求援，一进大帐，就拜倒在地，哭着请求窦建德赶快发救兵。弄得窦建德犹豫不定，只好答应进兵，两人这才起身。两个人住在窦建德营内，一天到晚不停地催，而且暗地里拿大量金帛贿赂众将，托他们敦促窦建德进兵。拿人钱财，替人消灾。众将都去催窦建德：“凌敬不过是个书生，懂得什么军事？大王应当马上进兵救援，不要再迟疑了！”窦建德于是下令进攻武牢。凌敬连忙上谏道：“大王怎么不用臣的计策了？”窦建德道：“众将都主张进兵，这是天助我成功，一定能大获全胜。”
第二天，窦建德亲自调集兵马，列阵二十里，大张旗鼓出发。大唐将士看到这个阵势吓了一跳。李世民带领尉迟恭等人登上高冈，仔细看了好半天，然后道：“看样子贼人从起兵山东到现在没遇着什么劲敌，虽然阵势看起来庞大，但我看他们队伍不整，纪律不严，光仗着人多有什么用？我只要按兵不动，等他们锐气消了，我们猛冲猛打，他们一定坚持不了多久，那时再乘势追击，必能破敌。我把话放在这里，一过中午，我们必定大获全胜。”
窦建德轻视唐军，只派了三百骑兵渡过汜水袭击唐营，还大声喊道：“唐营中有不怕死的吗？赶快出来受死！”这可气坏了大将王君廓，点了二百军兵出马迎敌。王君廓与敌兵交锋，几十个回合不分胜负，只好各自收兵。不料尉迟恭跃马出营，随身只带了两个人。可巧王世充的侄子王琬骑着隋炀帝所乘的青鬃马，正在观战，毫无防备，猛听得一声大喊：“哪里走！”话音未落，王琬的身子不知不觉就被人抓了过去，胯下的坐骑也被人牵住。尉迟恭擒住王琬，手下人牵住战马，竟然安安稳稳地跑回了大营。原来，李世民看见王琬站在窦建德阵前，骑着一匹好马，就不由自主地说了“好马”两个字。尉迟恭竟催马过去，连人带马都抢了过来。李世民担心尉迟恭有闪失，连忙派宇文士及领着三百骑兵接应，并且对宇文士及道：“如果敬德（尉迟恭的字）自己回来了，你可以绕过敌阵，由东边回来。不管敌人是否出兵，你都必须赶紧回来，不要惹祸。”宇文士及领命出发，见尉迟恭安全返回，就趁势去骚扰敌阵。敌兵赶紧拦截，宇文士及也不恋战，夺路向东跑去。李世民看见敌兵有的在河边喝水，有的散坐在阵前，就指挥众将道：“贼人的气势已经懈怠了，赶快出击！”李世绩、程知节、秦叔宝等人一听将令，纷纷拍马冲了出去，李世民紧随其后，带领大军渡过汜水，直捣敌营。
窦建德正召集将士开会，突然听说唐军杀到，慌忙命令骑兵出战，自己率步兵跟在后面。李世民看得清清楚楚，立即派窦抗领兵绕到敌后去取窦建德，自己和尉迟恭等人拦杀骑兵，虎入羊群一般把敌兵杀得七零八落，又乘胜前进。正赶上窦抗被窦建德击退，眼看要支持不住了，李世民一马当先，率兵杀进敌阵，直杀得尘土滚滚，天昏地暗。程知节、秦叔宝、史大奈等人也冲入敌后，敌兵顿时大败。唐军追出三十多里，杀敌三千多人，窦建德也被宇文士及活捉。这番厮杀，夏国的十几万大军死的死，逃的逃，还有五万人做了俘虏。
李世民收兵升帐，检点俘虏，听说拿住了窦建德，李世民大喜，当即命人把窦建德推进来。窦建德立而不跪，李世民冷笑道：“我去讨伐王世充，关你什么事？你偏要出兵阻挠，现在怎么样？”窦建德哑口无言，只好说了句玩笑话：“我今天来，是怕麻烦你大老远的去抓我。”李世民一笑，命令把窦建德押进囚车，然后把所有俘虏全部遣返回家。
李世民押着窦建德来到洛阳城下，用鞭子指着窦建德的囚车向城上喊道：“王世充！你看囚车里面是什么人？是不是来救你的窦建德？”王世充正在城楼督战，向下一瞧，果然见一人坐在囚车里面，便问道：“囚车里果真是夏王吗？”窦建德道：“不必说了，我来救你，却先做了阶下囚，你害得我好苦啊。”说完，大哭不止。王世充也不禁落泪，正要说几句安慰的话，只见唐营里又推出三辆囚车，被囚的正是侄子王琬、长孙王安世以及郭士衡。王世充一时愁上加愁，痛上加痛，身子一歪，差点儿从城上掉下来。李世民又对王世充道：“你如果不投降，我就把他们斩首。”王世充哭着说：“且慢！我如果投降，将军能保我不死吗？”李世民道：“我答应你免死！”王世充只得领着太子和群臣共两千多人，开城投降。王世充在城下见了李世民，吓得大汗淋漓，叩头谢罪。李世民以礼相待，让他带路进了城，然后命令萧瑀等人封好府库，取出金银，分别赏赐给将士。李世民根据降将的罪行，把段达、王隆、崔洪丹等十多个罪大恶极的绑到洛河边处斩。百姓最恨朱粲，争着拿瓦块砸他的尸首。
李世民接着往黄河南北传发檄文，招降各个州县。徐州行台王世辩是王世充的弟弟，听说王世充已经降唐，就带着所管辖的十三个县投降。窦建德的妻子曹氏和左仆射齐善行等人逃回洺州后，见大势已去，只好遣散残兵败将，带着传国玉玺投降。魏征等人全部被放还，于是郑、夏两国的土地尽归大唐所有。
李世民率领铁骑一万匹，将士三万人，分为前后两队，沿途吹吹打打返回长安。窦建德、王世充被带到殿前，听候高祖发落。高祖上殿后，先召进王世充，王世充跪下高呼万岁，连磕好几个响头。高祖呵斥道：“朕早就听说你残暴成性，最可恨的是杀我降臣李公逸、张善相，不将你正法，不足以慰藉冤魂。”王世充叩头道：“臣罪该万死，但秦王已经许臣不死了。”当时秦王李世民就在旁边，高祖问道：“有这话吗？”李世民回答：“儿臣确实答应过他。”高祖道：“朕倒不是一定要杀王世充，但杞州总管李公逸远道来降，却被王世充捉住杀死，伊州总管张善相在李密死后带着手下来归顺，也被王世充所杀。如今王世充已经被捉住，不杀对不起忠臣啊。”王世充吓得浑身发抖。李世民毕竟有过承诺，便替他求情道：“父王仁德，还求父王网开一面。”高祖于是把王世充暂时关押，再召窦建德入殿。窦建德虽然下跪，却不像王世充那样哀求。高祖责问他为什么背信弃义，他低头无言以对，于是也将窦建德关起来。三天后，李渊下了一道诏命，窦建德斩首东市，王世充贬为庶人，全家发配四川。王世充没走出多远，就被一个为父报仇的仇家杀死了。王世充的儿子想在路上叛逃，也被杀掉。
总计从窦建德起兵到灭亡，一共六年。王世充从篡位到灭亡，只经过三年。