李渊率兵攻入长安后，觉得自己当皇帝的时机还不太成熟，便按从前曾说过的拥立代王杨侑为皇帝。他封自己为唐王、大都督内外诸军事、大丞相等要职。杨侑只有13岁，所以，实际权力掌握在李渊手中。
李渊有了权，进行了必要的封赏，然后开始报仇了。左翊卫将军阴世师和京兆郡丞骨仪曾经派人掘了李家祖坟，烧了李氏宗庙，此时李渊找了个理由把他俩杀了。然后又准备杀马邑郡丞李靖，因为两人过去有私仇。李靖是当年名将韩擒虎的外甥，很有些名气，李世民便向父亲李渊求情，免除一死，收罗到自己手下，这位李靖以后起到十分重要的作用。李渊颁布了《约法十二条》，废除隋朝一些不合理的法律，长安百姓民心稳定，附近郡县官员都来投奔。
隋炀帝杨广整天沉湎于酒色之中，根本不理朝政，于大业十二年来到江都，在江都设了一百多个宫室，每宫住着成群美女。杨广带着肖皇后和嫔妃们轮流到各宫去玩，并且大摆酒宴，每天换一个宫，每次宴会有上千名姬妃参加。
杨广为了自己整天吃喝玩乐，把朝政大事交给虞世基管理。这时国家已经很混乱，东都洛阳和西都长安都处于危险之中，坏消息天天传到朝中，但虞世基对杨广报喜不报忧，杨广整天被蒙在鼓里。时间久了，杨广听到一些风声，似乎预感到隋朝江山不稳，夜间观星相，预测吉凶，越看越不妙，一次竟突然对肖皇后说：“我的脑袋长得很好，不知以后谁能把它砍掉！”皇后闻听此言吓了一跳，他却不以为然，认为“贵贱苦乐的滋味都应尝一尝。”杨广嘴上如此说，实际还是怕有人砍他的头的，他不去想如何平定中原混乱局势，却想再往南走，迁都至丹阳(今南京)，并派人修建丹阳宫。
随着杨广来到江都一年多，禁卫军思乡情切，想尽快回家探望北方的亲人眷属。但是，杨广不仅不打算回关中，反而要南下丹阳，所以，都心怀不满。一位叫窦贤的将领率众人潜逃，结果被杨广派兵捉回，全部杀死。事件发生以后，另外几个禁军将领司马德戡、元礼、裴虔通等在一起密谋，一致认为，与其等死不如谋反，将暴君杨广杀死。
这天，司马德戡在禁军中间散布说，皇帝得知大家都想回关中，非常恼怒，备下了毒酒，准备以犒赏禁军的名义，将大家全部毒死。此言一出，迅速传开，都想造反。司马德戡带头起事，几万禁军积极响应，包围了皇宫。有人在东城放火，杨广在宫内发现火光，听到声音，问值班的元礼、裴虔通发生了什么事？两人齐答：草坊起火。不一会儿，元礼打开宫门，禁军冲进皇宫，宇文化及捉住杨广，押到前殿，司马德戡和裴虔通各拿一把大刀，站在杨广身旁。
杨广从来没见过这种阵势，战战兢兢地问：“你……你们要做什么……我有何罪？”禁军郎将马文举代表大家列举了杨广的种种罪行：违弃亲庙、到处巡游、骚扰百姓、骄奢淫逸、草菅人命、频繁对外征讨，无数兵丁百姓死亡，民穷国贫，盗贼四起，还要迁都丹阳……杨广觉得马文举说的句句是实话，叹了口气说：“我是对不起百姓……”杨广12岁的儿子杨杲，在杨广身边大哭，裴虔通挥手一刀，将他杀死，杨广吓得脸色惨白，说：“天子不能用锋刃，拿毒酒来吧！”但是，将领们不同意，杨广无奈，解下身上的丝带，交给马文举。两位将领在杨广的脖颈上缠了几圈，然后用力一拽，这个杀父害兄的皇帝，只挣扎几下，便结束了罪恶的一生。至此，杨广共在位14年。
李渊在长安听到杨广被杀的消息，似乎有些难过，并且流了泪，他们是表兄弟。实际上，把杨广赶下皇帝宝座，也正是李渊的打算，没料到禁军将领们替他除掉了这个绊脚石。为了避免夺位的嫌疑，他便暗示部下逼杨侑自己提出让位的建议，而李渊则假意再三推辞，实际上逼使小皇帝杨侑禅位。38年前，杨侑的祖父杨坚篡周，逼着小皇帝宇文阐禅位；38年后，李渊又逼使杨坚的孙子让位，历史重大事件，有时相似得惊人。
大业十四年(公元618年)，李渊称帝登基，国号为唐，改年号为武德，李渊为唐高祖。从此，开始了盛唐历史。唐高祖称帝后，便打出唐朝的旗号，决心和各个敌对的集团争夺天下，实现统一的大业。