李渊生于一个官僚贵族家庭，祖上三代都是西魏、北周、隋的豪门世家。李渊七岁时，袭封唐国公。公元616年，隋炀帝派他到太原去做留守，镇压山西一带的农民起义军。他看到隋朝政权摇摇欲坠，便起了造反的念头。他让长子李建成在河东一带广交有才能的朋友，让次子李世民在太原招揽义士豪杰，还笼络了晋阳令刘文静、晋阳副监裴寂等一大批地上官僚。
恰巧在这个时候，李渊的军队在马色与突厥打仗战败，李渊非常害怕受到暴君隋炀帝的惩罚，左思右想之后，李渊父子决定立刻起兵，并且制定了一个长期的行动计划：巩固关中，出兵西北，然后进占关东，收复江南，统一全国。
太原副留守王威、高君雅是隋炀帝派来监视李渊的亲信，李渊招兵买马的举动引起了王威和高君雅的注意，他们计划杀死李渊。李渊闻讯后决定先发制人。公元617年5月的一天，李渊与王威、高君雅一起处理公务，刘文静按计划带开阳府司马刘政会前来告状，说有人想造反，李渊让王威先看状纸，刘政会不给，说：“只有唐公(李渊)可以看。”李渊接过一看，状纸上白纸黑字写着王威、 高君雅私通突厥，引突厥兵南侵。直到这时，王、高二人才知道自己落入了李渊没下的圈套。他们大叫：“这是造反的人想杀我! ”事先埋伏好的兵士们全冲出来，把他们杀死，除掉了李渊起兵遇到的第一块绊脚石。
李渊起兵后的第三天，几万突厥骑兵就来围攻太原。面对强大的敌人，李渊急中生智，唱了一出空城计。他命令大开城门，把城上插的旗全都撤下来，守城的人一律躲藏起来不许往外探看。突厥兵一看太原城门大开，城内寂静无声，高深莫测，他们怕进城会中李渊的埋伏，犹豫一阵，撤了兵。经过这次惊险，李渊感觉到突厥对他们的后方构成了严重的威胁。为了解除后顾之忧，李渊派刘文静带了一份厚礼去见突厥始毕可汗，约他一起反隋，并且表示，将来占领京都以后，长安的土地和百姓归李渊，而金玉绢帛归突厥。始中可汗觉得有利可图，当即表示支持李渊起兵反隋。
李渊稳住突厥后，于公元617年7月率三万人马从太原出发，向长安进军。他们沿汾水南下，到霍邑时遇到隋朝将军宋老生的阻拦。那几天阴雨连绵，缺少军粮，不知从哪里又传来流言，说突厥要乘虚攻打太原。李渊十分担忧，便想撤兵。李世民却持不同意见， 他说：“我们用义兵的名义号召天下，如果一仗都不敢打就往后撤，那太让人失望了，一旦兵士离散，我们就只有死路一条。”李渊权衡利弊(bì)，最终决定打败宋老生，然后继续进军。宋老生紧闭城门，拒不出战。李渊怕拖垮自己，便派李建成和李世民带几十个人冲到霍邑城下破口大骂，意欲激怒守城将士。宋老生有勇无谋，果然中计上当，出城迎战，把三万士兵全带到离城一里多的地方布阵。李世民带兵居高临下从南面山头冲杀下来，把宋老生的人马冲得七零八落。宋老生想逃回城去，李渊的兵士已经占领了城池，把城门紧闭。宋老生走投无路，被唐军杀了。霍邑于是被攻克。李渊乘胜继续向西进军，路过渭北时，李渊的女儿率领她招募的一万多人马前来会合。关中各地农民和小股义军以及隋朝一些地方官吏也纷纷加入李渊的队伍。李渊的势力发展非常迅速，数月之间，就由起兵时的三万人增加到二十万人。10月，李渊率二十万大军包围长安，李世民、李建成率领军队从东南与西北夹击，终于攻陷了长安。
李渊攻下长安以后，暂时拥立隋炀帝的孙子杨侑(yòu)做挂名皇帝。公元618年隋炀帝在江都被杀以后，李渊就将十四岁的傀儡(kuǐ lěi)皇帝一脚踢开，自己登上皇帝宝座，改国号为唐。就这样，中国封建社会的鼎盛王朝——唐朝建立起来了，李渊就是唐高祖。