从武德二年起，大唐四周的战争阴云也愈发浓密。
先是定扬可汗刘武周率军攻陷山西石州、平遥等地。接着以麾下黄子英为将，在介休境内的鼠雀谷大破唐军，太常少卿李仲文和左卫大将军姜宝谊遭遇惨败，双双做了俘虏。高祖李渊大惊，以右仆射裴寂为晋州道行军总管，与刘武周麾下大将宋金刚决战于索原度，宋金刚截断水源，趁唐军移动营寨取水之际纵兵出击，大败唐军，裴寂只身得以逃亡。
紧接着刘武周步步紧逼，直扑晋阳，齐王李元吉弃城星夜逃回长安，晋阳失陷。
武德二年十月，宋金刚攻陷浍州，夏县人吕崇茂与占据蒲州的隋旧将王行本起兵相应，整个河东地区几乎全部落入刘武周之手。不得已李渊再度启用秦王李世民征讨刘武周。
武德二年十一月，李世民领军自龙门关渡过黄河，屯兵柏壁，与宋金刚对峙。十二月，宋金刚派大将尉迟恭、寻相率军至夏县支援吕崇茂，击溃永安王李孝基率领的唐军。李世民在尉迟恭部返回浍州途中，令大将殷开山率军狙击，大败尉迟恭部，尉迟恭、寻相二人只身得以逃脱。
武德三年正月，李世民击败王行本，王行本遂降。接着李世民大破宋金刚，一日八战全胜，斩俘数万人，成功招降其麾下大将尉迟恭，刘武周的爱将黄子英亦被唐将张德政袭杀。无奈之下，刘武周与宋金刚双双逃进突厥境内避难。后宋金刚因无法忍受突厥人的欺辱，意图逃离，结果途中被突厥人截获，被处以腰斩之刑。刘武周闻讯更是战战兢兢，寝食难安，与几个心腹意欲逃归马邑，不料其中一人向突厥告密，突厥可汗大怒，下令将其五马分尸。这二人皆死的惨不堪言。
武德三年五月，李世民率军回归长安，李渊亲率文武百官至长安城东二十里外相迎，高祖赞其功高，堪比南岳。
武德三年七月，高祖李渊再度下诏，以李世民为帅，东取洛阳，讨伐郑王王世充。王世充闻讯大惊，慌忙组织三十余万大军，严阵以待。
一开局，王世充的局面就无比恶化。李世民令史万宝从宜阳攻占龙门，切断洛阳与襄阳之间联系；令刘德威翻越太行山，攻打怀州，切断洛阳与虎牢关之间联系；令王君廓切断洛口仓通往洛阳的粮道；令黄君汉南下河阴，攻打回洛城，切断洛阳与回落仓的粮道。郑国各地守将纷纷不战而降，洛阳周围郡县皆落入李世民手中，洛阳成为一座孤城。
李世民采用四面合围之势，大军将洛阳城围的水泄不通。
武德三年八月，李世民顺利攻取北邙山，陈兵青城宫，与王世充部隔着一道涧水对峙。
王世充兀自不甘心，亲自出面求和。他隔水高喊：“隋末丧乱，天下分崩，你大唐据关中，我王世充据洛阳，向来井水不犯河水，各自相安，今殿下劳师远袭，其理何在？”李世民扬声答道：“四海之内皆承正统，都已受我大唐统领，唯独王公执迷不悟，妄想螳臂当车，今王公若降，尚可保一门富贵，若胆敢抗拒，将在我大唐铁骑之下化为齑粉。” 王世充勃然大怒，誓于李世民拼个鱼死网破，双方大军遂展开殊死搏杀。
武德三年九月辛巳日，李世民带五百余亲兵，暗中登上北邙山魏宣武帝景陵，察看王世充大军军势。王世充获悉，遣大将单雄信率一万大军前往扑杀，李世民率部突围，追杀中单雄信一箭射伤李世民，李世民差点跌落马下，死于乱军之中。
危急之际，李世民麾下骁将尉迟恭大展神威，单鞭夺槊，险些击杀敌方骁将单雄信，护送着李世民成功突围。随即李世民援军赶至，反而转败为胜，击溃王世充部。
至十一月，王世充众叛亲离，麾下将领纷纷叛逃，归顺李世民。无奈之下，王世充只好听从谋士叶天信之计，修书向夏王窦建德求援。窦建德顾及唇亡齿寒之理，纳中书舍人刘斌建议，决定联郑拒唐，待机灭郑，而后再与李唐争夺天下。
武德四年二月，王世充麾下河阳守将王泰弃城逃走，余部举城归唐。此时洛阳城内粮草断绝，青草树皮皆被食光，连公卿大臣都饿死不少。无奈之下，王世充令大将单雄信领军攻打洛口，企图夺回洛口仓，唐将王君廓与之交战，单雄信溃败。王世充无计可施，只能把希望寄托在窦建德的救援上。
武德四年三月，窦建德击败孟海公，孟海公遂归降。三月中旬，窦建德派部将范愿镇守曹州，亲领出兵救援王世充。大军号称三十万，声势惊人。
孰料此时王世充麾下郑州司马沈悦已暗中归顺唐将李世勣，与唐军里应外合，献出虎牢关。窦建德的大军被李世民部阻截于虎牢关以东，与王君廓部对峙。
窦建德不听祭酒凌敬相谏，没有撤军北渡黄河，攻打山西，而是选择攻打虎牢关。
武德四年五月初，李世民在汜水河滩之上留下上千匹战马，引诱敌军出击。窦建德中计，在汜水东岸宽阔地带布阵，准备于李世民决战。就在窦建德正在帐中议事之际，李世民突然东渡汜水，大举进攻，决战打响。窦建德部军纪散乱，士卒饥渴困倦，很快便全线崩溃，窦建德本人也受伤被生擒。旋即李世民将窦建德押至洛阳城下，以示王世充。王世充见最大的靠山窦建德也成了阶下囚，彻底绝望，知道一切已难以挽回，流泪叹息道：“天欲亡我，如之奈何？”遂不再负隅顽抗。
武德四年五月初九，王世充令人打开城门，身着素衣，手持降幡，带着太子和文武群臣计两千余人，步行出城，前往李世民军门前归降，麾下谋士叶天信则趁乱不知所踪。见了李世民，王世充满面羞惭，无言以对。
李世民将王世充、窦建德押赴长安，请父皇李渊处置。旋即大开杀戒，将王世充麾下民愤极大的段达、朱粲、张童儿、郭善才等人拉至洛水之滨，当众开刀问斩，洛阳百姓拍手称快。
同日，王世充麾下大将程知节在秦琼，李世勣等劝说下，降了李世民。大将单雄信因拒不归降且曾箭伤秦王，被判与段达等人一道问斩。秦琼、李世勣虽在秦王面前苦苦哀求，但单雄信死志早萌，在大帐中对李世民骂不绝口，李世民愤怒之下没有赦免于他，单雄信遂殁。
此次东征，李世民一举平定王世充和窦建德，一战擒获两王，威震天下，自此黄河两岸，郑夏版图尽属大唐。在大唐朝的将士眼里，秦王已巍峨如泰山。高祖李渊也不得不承认，秦王对于大唐王朝所立下的盖世功勋已经无人可以比拟，当下封李世民为天策上将，领十二卫、陕东道大行台尚书令，极尽褒奖之能事。
与秦王的璀璨光芒相比，太子则显得暗淡无光。此时的李世民在朝廷中的地位，已于太子李建成不相上下，甚至犹有过之。
武德四年七月，窦建德在长安被李渊下诏押至闹市中诛杀。王世充因献城归降免于一死，被贬为庶人，与父兄子侄一道发配至蜀中，流放途中被昔日仇家、定州刺史独孤修德率人袭杀。高祖李渊闻讯，并没有怪罪独孤修德。
窦建德的被诛，大大的激怒了他的昔日部下。其麾下大将刘黑闼发誓为夏王复仇，道：“若不起兵为夏王报仇，实耻见天下人物。”他于窦建德被杀后的当月内，聚集旧将高雅贤、王小胡、范愿等起兵反唐，率众攻占漳南。李渊命淮安王李神通为山东道行台右仆射，率兵征讨。
武德四年八月，刘黑闼引军大败大唐魏州刺史权威、贝州刺史戴元祥的联兵，权威和戴元祥双双战死。原窦建德麾下将士闻讯纷纷前来归附，刘黑闼遂于漳南筑坛，泪尽血流，遥祭夏王窦建德，自称大将军。
旋即刘黑闼挥兵攻陷历亭，擒杀大唐屯卫将军王行敏。归顺大唐的大夏旧将崔元逊袭杀唐刺史裴晞，率部归顺刘黑闼，刘黑闼一时声势大振。
此时大唐兖州总管徐元朗也不甘寂寞，于武德四年八月，在兖州起兵反叛,自称鲁王。
武德四年九月，淮安王李神通与幽州行军总管罗艺领军十余万人，在饶阳与刘黑闼决战。刘黑闼大败唐军，随后乘胜追击，击杀瀛州刺史卢士睿、观州刺史雷德备、毛州刺史赵元恺、定州总管李玄通、冀州刺史鞠棱、杞州刺史王文火矩、魏州总管潘道毅等人，连下瀛州、观州等十数城。刘黑闼定都沼州，自封汉东王，改元“天造”，以范愿为左仆射，董康为兵部尚书，高雅贤为右领军，王琮为中书令，刘斌为中书侍郎，尽复大夏国。
至此河北、齐鲁到处战火弥漫，血流成河，大唐王朝再一次陷入巨大的忧患之中。
消息传至长安，高祖怒不可遏，本欲使李世民率军讨伐，可高祖又深恐其战功过大无法掌控，无论如何，李渊必须确保太子李建成储君之位的稳固，防止兄弟阋墙的惨剧发生。可刘黑闼与徐元朗的声势越来越大，眼见就要危及关中三辅一带，李神通等更是败绩连连。
危急时刻，封德彝、萧瑀、李世勣等纷纷上书，要求皇帝派秦王出征讨伐。万般无奈之下，李渊只得再次起用李世民，令其和齐王李元吉一道征讨刘黑闼与徐元朗。
武德四年十一月，李孝恭、李靖率唐军击败定都岳阳、盘踞巴蜀的梁王萧铣，萧铣开城门投降，被押至长安。李渊将其斩首。
武德五年初，李世民对刘黑闼部展开全面围剿。
武德五年二月，李世民率部将刘黑闼团团围困于洺州城。
武德五年三月，李世民料定刘黑闼粮草将尽，必来决战，遂使人在洺水上游筑堰截断河水。刘黑闼果然率军前来讨战。李世民令人暗中掘堤放水，洺水一泄而下，深约丈余，刘黑闼部猝不及防，死伤无数，刘黑闼率残部两百余骑突围，星夜投奔突厥。
武德五年七月，李世民征讨徐元朗，连克十余城，威震淮、泗地区。江淮霸主杜伏威也迫于李世民威势，率众归降，李渊召其入朝，封其为太子太保，遥领行台尚书令之职。李渊为防李世民功劳过大，遂令李神通继续讨伐徐元朗，诏李世民返回长安。
武德五年八月，突厥颉利可汗率军从雁门关入侵，兵分两路，一路攻打并州，一路攻打原州。李渊命唐军兵分四路迎敌。八月底，李渊采纳封德彝意见，与颉利可汗议和，颉利可汗遂带着唐王朝赠送的大批金银财帛撤兵。
武德五年九月，刘黑闼的叛乱死灰复燃。在突厥的暗中支持下，刘黑闼部再度攻克瀛州，斩杀刺史马匡武。
武德五年十月，贝州刺史许善护与刘黑闼交战，结果全军覆没，观州刺史刘会献城投降。当月，大唐淮阳王李道玄也战死疆场，刘黑闼全歼其部众三万余人，收复旧地，重新在洺州称王。
武德五年十一月，为防止高祖再度使李世民领军平叛，太子李建成府中谋士徐师谟献计，让李建成主动请缨，前去平定刘黑闼叛乱。若能平定叛乱，太子可获取无上名望，趁机结交山东、河北的各路豪杰，建立自己势力，可大大稳固太子的地位，削弱李世民在军中的影响力。李建成也对李世民的羽翼日渐丰满深感忌惮，当下依计而行。
此举正合高祖心意，他即刻下诏，令太子李建成为陕东道大行台及山东道行军元帅，率军讨伐刘黑闼和徐元朗，同时令幽州行军总管罗艺全力南进，配合李建成。在徐师谟和魏征的运筹帷幄下，李建成的讨伐进展顺利。不久徐元朗就惨遭兵败，弃城而逃，后被乡民所杀。接着刘黑闼在李建成和罗艺的夹击下，频频失利，手下将士开始离心离德，众叛亲离，陷入山穷水尽的地步。
武德六年正月，走投无路的刘黑闼在饶阳，被其部下饶州刺史诸葛德威诱捕，押送至李建成处，作为归顺大唐的礼物。李建成为防止意外，断绝后患，下令将刘黑闼及其弟刘十善就地斩杀。
武德六年三月，依附突厥的梁师都麾下大将贺遂降唐，下辖十二州回归大唐，梁师都实力大损，已成西山落日，难以对唐朝构成威胁。
随着刘黑闼的覆灭，夏王窦建德的残余势力终于被剿灭，李建成率战胜之师，志得意满的回归长安。此役，太子的仁义贤德与多谋善战也给出征军士留下了深刻的印象。
武德六年八月，辅公佑斩杀王雄诞，率江淮军在江南起兵，叛唐称帝，建国号“宋”李渊使李孝恭为帅、李靖为副帅前往征讨。
武德七年二月，割据河北的燕王高开道麾下将领张金树发动兵变，围困高开道于府邸中，高开道知大势已去，杀死众妻妾子女后投缳自尽。张金树斩下高开道首级，遣使向大唐归降。
武德七年三月，辅公佑兵败被擒，后被杀。
武德七年八月，突厥颉利可汗、突利可汗率军一道攻打原州，再度南下，直逼长安。李世民与李元吉领军迎战。李世民利用颉利、突利二人之间的矛盾，使用离间之计，成功瓦解二人联盟，无奈之下，颉利可汗只好与大唐议和。
从武德二年年起至武德七年，众多割据势力相续土崩瓦解，四方群雄败亡，大江南北战火渐渐熄灭，几十年的纷争战乱基本结束，整个天下一统的局面初步形成。
而随着天下平定，四海升平，太子李建成与秦王李世民之间的矛盾，已经不可避免的被历史的车轮推至前台。