越王杨侗在东都称帝，封段达、王世充为纳言，元文都为内史令，共同执掌朝政。大家听说宇文化及率众来攻，吓得心惊肉跳，有人上疏越王，建议和李密联合起来抗击宇文化及，于是杨侗派人去联络李密。
李密从京城逃出来后上了瓦岗寨。当时，东都法曹翟让逃狱到瓦岗，占山为王，单雄信、徐世绩、王当仁、王伯当、周文举、李公逸等人群起响应。李密就劝翟让自立为王，翟让很谦虚，一再推辞。李密早有称王的意思，一直以为民谣中的“李氏将兴”非自己莫属。也该李密露脸，一到瓦岗寨就接连打了几个胜仗，于是翟让就推李密为首领，号为魏公，改元永平。李密封翟让为上柱国司徒东郡公，手下也掌管了一班官吏。封单雄信、徐世绩等人为大将军，祖君彦为记室，然后传檄文讨伐大隋，很快夺取了河南的好多郡县。李密和李渊书信联络，势力范围遍及赵魏以南，江淮以北。
紧接着李密得到秦叔宝、程咬金、罗士信、赵仁基等大将，一时间声势大震。此后李密和东都王世充多次互相攻击，各有胜败。王世充曾调兵十万来攻洛口，和李密隔着洛河列阵。李密渡河出击，却被王世充打败，逃到洛河以南。王世充追杀过去，被李密杀了个回马枪，大败而归。再战还是大败，王世充只好带着残兵败将落荒而逃，从此李密的声威如日中天。
翟让的哥哥翟弘看得眼红，对翟让说：“这个天子本来应该是你来当的，你怎么就让给别人了呢？你要不当，还不如让我当呢。”翟让有个司马叫王儒信，也劝翟让自己称王，并和翟让秘密商量夺权的办法。翟让有些迟疑。总管崔世枢和左长史房彦藻都受过翟让的责骂，二人得知此事后，便偷偷向李密告密，并且劝李密除掉翟让。李密开始并没有同意，后来左司马郑颋劝道：“毒蛇蜇手，壮士断腕。您怎么能为了私义而误了大局呢？”李密于是和几个人定计，摆了桌酒宴，找翟让来喝酒。翟让和大哥翟弘等人如约到来，结果都被李密杀害。接着，李密抚慰士兵，并历数翟让的罪过。翟让这个人本来就很残忍，所以死后也没人哀伤。但大家都感到李密心狠手辣，不免心怀顾忌，渐渐地产生了猜疑。
李密进攻东都，跟王世充打起了持久战。越王杨侗派兵支援王世充，可惜王世充屡战屡败，李密倒是打了很多胜仗。这时，宇文化及一路攻打过来，李密正和宇文化及对阵，越王杨侗派人来求助。李密给了杨侗一个台阶，用挖地道的战术击败了宇文化及。随后，李密写降书给杨侗，称愿意除掉宇文化及为自己赎罪。杨侗看了降书后非常高兴，当时就封李密为太尉，又加封魏公，准备让他入朝辅政。
杨侗的大臣元文都等人一看李密肯来归顺，以为天下从此太平，都开始饮酒取乐。只有王世充很清醒：“朝廷官爵轻易地授给贼人，你们未免高兴得太早了！”元文都听完很不高兴，就传播谣言，说王世充私通宇文化及，不可不防。二人从此产生了矛盾。后来，元文都想设计谋杀王世充，不料属下段达跑去通风报信，王世充半夜袭击元文都。元文都吓坏了，连忙带着隋主杨侗来到乾阳殿闭门拒守。王世充从太阳门攻入，命令段达拿住元文都，乱刀砍死。然后拜见杨侗，磕头谢罪。杨侗本来就没什么权力，也不敢指责。王世充则赌咒、发誓、表忠心，声泪俱下，说得杨侗信以为真，就封王世充为右仆射，总管内外军事。从此大权全落在王世充手里，他的兄弟子侄全都掌握重兵，杨侗一切都不能自主，成了傀儡。
李密赶走宇文化及后，本想到东都上朝为官，听了这些变故后只得返回。下令打开洛口粮仓，赈济灾民，并且是不设限制，随意发放。一时间，蜂拥而来的人不下百万。人们也不爱惜，米粒随意地散落在道旁。李密笑道：“这就是所谓的丰衣足食吧。”属下贾润甫却说：“国以民为本，民以食为天。现在百姓背着米袋子来，不过是为了白拿粮食。而放粮官又毫不爱惜，随随便便发放，等到粮食放完，老百姓也就跑光了，谁来帮您成就大业呢？”李密这才恍然大悟，立即封贾润甫为放粮官，并让他参与军事。
王世充在东都独揽大权后，开始谋划攻打李密。表面上派使者和李密讲和，暗地里却挑选精兵，然后打着大旗前来进攻。李密留下王伯当守金墉，邴元真守洛口，自己领兵迎击王世充，准备采用速战速决的打法。不料王世充却派了一队轻骑兵趁夜潜入北山，埋伏在溪谷，准备突击李密。
李密刚打败宇文化及，士卒非常疲惫，再加上藐视王世充，因此毫无预防。敌兵已经到了军前，李密军队才仓促列阵。王世充手下士卒都是江淮勇士，拼死冲杀过来，锐不可当。李密军队开始还能勉强招架，谁知伏兵又从高处冲了下来，一下子就把李密的部队冲成了好几段。王世充找到一个长得像李密的家伙，把他两手反绑，推到阵前，大声喊道：“李密已经被擒住了！”军兵大喊万岁。李密军队误以为真，顿时大乱。单雄信、陈智略等人全都投降王世充，裴仁基等人也被王世充的手下活捉。
李密狼狈逃回洛口，不料守将邴元真已经投降王世充。李密一看大势已去，慌慌张张地向虎牢关逃去。此时的王伯当也弃了金墉城，退守河阳。李密当下召集部下商议，打算先退到太行一带，再图进攻。众将都不同意，李密长叹道：“我能依靠的只有你们了，你们既然都不同意我的主意，我活着还有什么意思？”说着，就要拔剑自刎。王伯当连忙抱住李密，夺去宝剑，边劝边哭，众人也都跟着落泪。李密正在绝望时，忽然想起当初曾和李渊联盟，于是投奔李渊。本以为能得到重用，没想到李渊只封了他一个光禄卿，赐爵邢国公。朝廷上的大臣也大多轻视李密，李密大失所望，无奈寄人篱下，只好能忍则忍。
唐高祖李渊定都长安后，接下来打算平定陇西。陇西一直被薛举占据，薛举手下有十多万人马，声势颇盛。薛举原来是陇西土豪，曾做过金城府校尉。金城令郝瑗命令薛举剿灭盗贼，薛举反而扣押了郝瑗自立为王。开始的时候自称西秦霸王，接着便称皇帝，立儿子薛仁杲为太子。薛仁杲善于骑射，绰号万人敌，打起仗来非常骁勇。
武德元年六月，薛举侵犯泾州。李渊派李世民率领八位总兵出都城应战。大军到豳岐的时候，李世民得了病，暂时让纳言刘文静和司马殷开山代管军事，并且嘱咐他们不要轻易出战。殷开山和刘文静不听李世民的告诫，仗着兵多将广主动出击，被薛举突袭，损兵折将，伤亡大半。李世民只好退兵，刘文静等人也因此被罢官。
两个月后，薛举派薛仁杲围攻宁州，被刺史胡演击退。没过几天，薛举病死，薛仁杲继位。大唐秦州总管窦轨奉命出征薛仁杲，却大败而回，薛仁杲乘胜围攻泾州。李渊派兵出战，几次都打了败仗。于是再封李世民为西讨元帅，出击薛仁杲。两军对阵，李世民只是命令将士坚壁自守，不得妄动，违令立斩。手下将士想不通，李世民解释道：“我军刚打了败仗，士气低迷，敌军却士气正盛，因此我军宜养精蓄锐，等到敌军骄傲而我军兴奋时，就可以克敌了。”众将半信半疑。就这样今天不战，明天又不战，一直等了五六十天，仍然不战，将士都愤懑得很。
这一天，忽然从敌营来了一员大将，带着几百名骑兵来投降。李世民将他召进大营，一问姓名，得知此人叫梁胡郎，说是营中快没军粮了，他害怕被擒，所以率部投降。众将怀疑他有诈，又来反对。李世民呵斥道：“梁将军是识时务的君子，你们不要多疑了！”随后好言劝慰梁胡郎，让他住在后营。李世民派行军总管梁实移师浅水原，诱敌来攻，然后又找了几个小兵前去骂阵。
敌将罗早就等得不耐烦了，立即率领全部精锐部队进攻梁实大营。李世民于是召来众将道：“现在可以出战了。”右武侯大将军庞玉主动请战。李世民道：“庞将军在浅水原南面列阵，如果贼兵合力来攻，你一定要跟他们血战到底，不得怯退！我自会带兵接应。”庞玉奉命带领部队来到浅水原南，选好地点布阵。刚布好阵，罗就带兵攻打过来，敌兵仗着人多势众，包围了庞玉部队，从四面进攻。
庞玉抖擞精神，督军奋战。怎奈敌人蜂拥而至，层层紧逼，任凭唐军如何奋勇，也杀不退敌军，伤亡非常惨重。庞玉大喊道：“元帅料敌如神，一定会有精兵来援助，弟兄们千万不要畏缩！我可是把生死置于脑后了！”属下听了这话，也都再接再厉。一时间，血肉横飞，惊天地泣鬼神。忽然间敌阵中人马纷纷逃窜，一位大帅手持长矛，一马当先冲进敌阵，后面跟着多名悍将奋勇杀来，援军到了！庞玉一看，来的正是西讨元帅秦王李世民。庞玉一下子来了精神，士兵们也都精神抖擞，与李世民的队伍里应外合攻打敌阵，一时间喊杀连天。敌军这时已经疲惫不堪，哪禁得起这支生力军，再加上前后受敌，根本抵挡不住，于是四散奔逃。李世民指挥大军追击，一口气斩了几千敌兵，又亲自带领两千多精锐骑兵，一路穷追下去。
窦轨是李世民的表舅，他勒住马阻拦李世民：“薛仁杲占据着坚城，我军虽然小胜，也不能轻进啊。还是先收军休整一下再决定进退吧！”李世民道：“我已经深思熟虑过了。如今我军势如破竹，不能失了战机，舅舅就别再多说了！”于是带兵进攻薛仁杲所居的折摭城。薛仁杲列队城外，与李世民隔着泾水对阵。没等交锋，薛仁杲的骁将浑乾等人就过河投降了李世民。薛仁杲一看大势不好，急忙带兵退入城中。此时已经是黄昏，李世民的大队人马相继赶到，团团围住折摭城。到了半夜，好多守将都缴械投降。薛仁杲见大势已去，只好写了降书投降，然后大开城门迎接李世民的大军。李世民进城后，共收得精兵一万多人，百姓五万多口。
众将都来向李世民道贺，又问李世民：“元帅一战而胜，既没用步兵，也没用攻城器具，一直攻到城下。大家都以为攻不下来，却不到一天就打下来了，正像您预料的。请问元帅怎么会有如此神机妙算，建立这样的奇功？”李世民道：“敌军全都是陇外精兵，我只是出其不意地打败了他们。他们四处逃散，伤亡并不多，我如果停下不追，等他们都进了城，再被薛仁杲收编安抚，就又成了一支劲旅。到时候他们再据城固守，势必难以攻破。因此只有乘胜急攻，让他们进不了城，四处流窜。薛仁杲吓破了胆，哪还会有什么谋略，不投降还等什么？所以我们必然大获全胜！”众将听了之后恍然大悟，一齐下拜道：“元帅神机妙算，我们实在望尘莫及。”李世民道：“我用谋略，你们出力，都是为国家建功，分什么彼此啊！”众将更加心悦诚服。
李世民押送薛仁杲回到长安。高祖对李世民说：“薛举父子杀了我众多士卒，我一定要杀光薛氏的私党，才能慰藉那些死去的冤魂。”李世民正要劝阻，李密出班启奏：“薛举残杀无辜，所以死有余辜。陛下一向仁爱，除薛仁杲之外的贼寇既然已经降服，还是以安抚为宜。”李密怎么一下子变得这么仁慈了呢？原来李密想借此机会笼络薛举的党羽，所以才出来求情。高祖听得有理，于是传旨斩了薛仁杲和几十个贼人的首领，余下的全都赦免。算起来薛氏父子占据陇西，不过五年的光景就灰飞烟灭了。