大业十三年（617年）农历七月，李渊率军三万誓师，以“废昏立明，拥立代王，匡复隋室”的名义正式起兵直趋关中。在发布的檄文里他斥责隋炀帝听信谗言，杀害忠良，穷兵黩武，致使民怨沸腾。誓师后，李渊与长子建成、次子世民挥师南下，先后破守霍邑（今山西霍县）的隋鹰牙郎将宋老生、渡黄河，对守河东的隋将屈突通围而不攻。迅速向西南挺进。当时，隋炀帝远在江都（今江苏扬州），关内隋军力量薄弱；中原瓦岗军与王世充激战方酣，均无暇西顾。

李氏父子进军神速，大业十三年（617年）农历十一月初九日攻入长安。十一月十三日，李渊宣布遥尊隋炀帝为太上皇，拥立其孙代王杨侑（yòu）为帝，改元义宁，是为隋恭帝。恭帝进封李渊为唐王、大丞相、尚书令，以李建成为唐王世子；李世民为京兆尹，改封秦国公；封李元吉为齐国公。李氏父子完全控制了关中局势。

义宁二年（618年），隋炀帝在江都被禁军将领兵变杀死。同年农历五月，隋恭帝被迫禅位于李渊，李渊即皇帝位于长安，国号唐，建元武德，定都长安，是为唐高祖。李渊以李世民为尚书令。不久，又立李建成为皇太子，封李世民为秦王，李元吉为齐王。唐朝建立之初，疆土只限于关中和河东一带，尚未完全统治全国，因此，李渊经常派遣儿子李世民、李建成、李元吉出征，逐步消灭各地割据势力。

窦建德（573-621年），祖籍扶风平陵（今陕西咸阳市）。隋末河北农民起义军领袖，东汉大司空窦融17世孙，辽东宣王窦拓玄孙。世代务农，曾任里长，尚豪侠，为乡里敬重。大业七年，隋炀帝募兵征讨高句丽，窦建德在军中任二百人长。目睹兵民困苦，义愤不平，遂抗拒东征，并助同县人孙安祖率数百人入漳南东境高鸡泊，举兵抗隋。及后，窦建德家人被隋军杀害，乃率部众二百人投清河人高士达的起事军队。大业十三年（617年）正月，窦建德在河间、乐寿两县的交界处设立祭坛举行典礼，自称长乐王。

唐高祖武德元年（618年）冬至那天，窦建德在金城宫聚会文武官员，有五只大鸟降落在乐寿城，几万只鸟雀跟着飞来，整整过了一天才飞走。有一个宗城人进献一枚玄王圭（黑色玉），景城丞孔德绍说“：古时夏禹亲受符命，上天赐给玄王圭。现在吉兆跟夏禹一样，应当称为夏国。”窦建德听从了这个建议。窦建德建国号夏，改元武凤，称夏王。

武德三年（620），秦王李世民在洛阳进攻王世充，窦建德的中书舍人刘斌对他分析说：“现在唐国占据关中，郑国占据河南，我们占据河北，这是鼎足三立相互对峙的局势。听说唐用全部兵力攻打王世充，连头连尾两年时间，郑的形势一天比一天紧急，而唐的围攻毫不放松。唐的兵力强、郑的兵力弱，发展趋势必然是打败王世充，王世充被打败，那么我们就有唇亡齿寒的忧虑。为您着想，不如援救王世充，王世充在里边抵御，我们在外边进攻，打败唐军是一定的了。如果打走了唐军保全了王世充，这是长期保持鼎足三分局面的战略。如果唐军被打败后，王世充也可打败，那么就乘机消灭他，集中我们和王世充的兵力，乘着唐军战败的时机，直向西打，长安就能到手，这是平定天下的基础。”窦建德非常高兴说“：这才是好谋略啊。”

秦王李世民到了武牢，接近窦建德的军营，杀伤杀死不少的人，并捉拿了他的部将殷秋、石瓒。经过两个月的战斗，窦建德逼近武牢，就不能继续前进。秦王派遣将军王君廓带领轻装骑兵一千多人绕到窦建德的背后袭击他的运粮队伍，捉住大将张青特，俘虏士卒很多人。窦建德多次失利，人心惊恐不安。祭酒凌敬提议“批亢捣虚”的上策，窦建德却向凌敬道歉说：“我已听从了大家的意见，不能照您的话办了。”凌敬坚持争辩，窦建德很生气，强制撑持着走了。他的妻子曹氏又对窦建德议论说：“祭酒凌敬的意见可以采纳，您为什么不采纳呢？窦建德说：“打仗不是女人过问的事。再说郑国命在旦夕，等待我们快去，既然答应援救他们，怎能碰上困难就退走，向天下表明我们说话不算话呢？”于是全部人马压向武牢，唐军按兵不动以挫伤窦建德的锐气。

等到窦建德把人马聚集在汜水，秦王派遣骑兵去挑战，窦建德发兵进攻，秦王派窦抗抵挡。窦建德渐渐后退，秦王派遣骑兵冲进敌阵，反复鏖战四五次，最后大败窦建德。窦建德被俘后，李世民责备窦建德：“我征王世充，关你何事，你越界而来，冒犯我军士的锋锐！”建德说：“今日不自己来，恐怕有劳你远取。”王世充遂开城投降，裴矩以洺州降唐。公元621年（武德四年）七月九日，李世民凯旋回到长安，将王世充、窦建德献于李渊，李渊历数他的罪行，王世充回答说：“按照我的罪过，实在是死有余辜，但您的爱子秦王曾许诺不杀我。”李渊于是释放了他。

李渊诛杀窦建德不仅惹恼了窦建德原来的下属，更是把自己置于一个忘恩负义的小人，失去了人心。为什么说忘恩负义哪？因为当年李渊的军队和窦建德的军队刚刚开始打仗的时候，一次唐朝左武卫大将军李勣、唐高祖皇妹同安长公主和淮安王李神通一起被窦建德俘虏。窦建德予以了厚待，后来还放李神通等人归唐，可以说是仁义至极，而李渊却诛杀了窦建德，相比之下确实是以怨报德的小人行为。这种恩将仇报的行为不免让人心寒。李渊在诛杀窦建德的同时，觉得王世充人心尽失没什么威胁，就宽恕了这个小人，可王世充还是被仇人所杀。如果单纯是饶了王世充一命，也没什么，但把诛杀窦建德和饶恕王世充这两件事联系起来，可就不是没什么了，这就是爱憎不分明，那老百姓怎么会愿意依附你哪？