隋朝末期，军阀割据，民不聊生，农民起义不断爆发。当天下大乱之时，隋炀帝仍不思进取，反而更加昏庸。
当时，农民战争烽火已燃遍全国各地，并逐渐形成以李密、窦建德、杜伏威为首的三支主力农民军，他们分别活动在今河南、河北、山东和江淮一带，以摧枯拉朽之势瓦解着隋王朝的统治，将隋统治集团及其军队主力分隔于江都(今江苏扬州)、洛阳、长安三处，让其陷入四分五裂的状态。一些隋贵族和地方官吏见隋朝大势已去，也乘机而起，占据郡县，建立割据政权，称王称帝，隋王朝的统治已是日薄西山、奄奄一息。晋阳县令刘文静向李世民分析当时的形势说：“现在皇帝远在江淮，李密围攻洛阳，各地叛军不下数万，在这种形势下如果有人起来倡呼，取天下易如反掌。太原有许多豪杰，可以集兵10万，加你所带的数万军队，乘虚进入关中，号令天下，就可以成就帝业。”在这种形势下，早就心怀帝梦的李渊父子就开始做起兵的准备。
太原是西北边防的重镇，历来是兵家必争之地。隋朝在这里储存了大量布帛粮谷，这为起兵提供了物质保证。李渊赴晋阳上任时，留长子李建成、四子李元吉于河东，暗结英俊，以扩大自己的力量；次子李世民随侍晋阳，李渊也授意他密招豪友，广揽人才，晋阳令刘文静、晋阳宫监裴寂、行军司凯武士鹱以及逃避征辽、负罪在逃的右勋卫长孙顺德、右勋侍刘弘基、左亲卫窦琮等人亦纷纷投靠李渊，皆劝其尽早起兵称帝。
大业十三年（617年）五月，太原留守、唐国公李渊在晋阳起兵，十一月占领长安，拥立隋炀帝孙子杨侑为帝，改元义宁，即隋恭帝。李渊任大丞相，进封唐王。义宁二年（618年）三月，隋炀帝在江都被叛军宇文化及缢弑。
隋炀帝一死，李渊拥立的代王杨侑明白自己的傀儡皇帝生涯已经接近尾声，年轻的隋朝末代帝王把已经日渐破碎的大隋江山交到李渊手里。隋帝杨侑下诏让李渊戴皇帝用的有十二旒的冕，并立天子的旌旗，像天子那样出入警戒，禁止行人来往。王后、王女的封号，都依照旧规办理。又派遣使持节、兼太保、刑部尚书、光禄大夫、梁郡公萧造，以及兼太尉、司农少卿裴之隐将皇帝的印玺进献给李渊，李渊貌似谦虚，不断推让。百官联名上表劝李渊即帝位，李渊还是没有接受，经再三上表，李渊才接受。隋帝杨侑就退位居于旧府第。
李渊的起兵真是借了天时地利人和的光了：隋炀帝游走扬州，流连江南穷奢极欲忘掉了江山，最后被近臣所弑，群龙无首，大丈夫当待时而动，多少豪杰都揭竿而起了，何况李渊有雄厚的资本呢？这是天时；李渊手中有生力军，又在帝辇附近，旌麾一指，就到京城了，这是地利；李世民，虽然年轻却野心很大，结交豪杰，早作了准备。何况李渊几个儿子包括女儿女婿都同心协力，这是人和。
公元618年，李渊在太极殿即皇帝位，改国号为唐，以长安为都城，改隋义宁二年（618年）为唐武德元年（618年），隋朝灭亡。揭开了大唐的历史篇章。