较大的城市，所以也建有行宫。晋阳宫监裴寂与李渊关系密切。李世民便出钱让人跟裴寂赌钱，故意输给他。裴寂很高兴，那人便将李世民引荐给他，两人逐渐成了密友。
李世民将自己的造反大计透露给了裴寂，裴寂听后表示赞成。一天晚上，裴寂邀请李渊来晋阳宫喝酒，趁他酒醉时将宫内美女借其“使用”。次日早晨，李渊酒醒后一瞅，完了，睡了皇帝的嫔妃，这可是杀头之罪！这下子，不想造反也得造反了！
于是，李渊以勾结突厥人为名，杀掉自己的两名副手，起兵反隋。
李渊这个人性格上不太坚定，遇到困难就容易打退堂鼓。在贾胡堡的时候，义军被驻扎在霍邑的宋老生三万大军所阻挡，又因为粮食短缺，连降大雨，他就想退回晋阳，李世民劝他，他还不听。晚上，李世民在他的帐篷外啼哭，吵得他睡不着，只好把儿子召进来，问他为什么哭？李世民说：“我们举兵是为了大义，前进就会胜利，后退就会溃败。现在遇到一点困难就要班师，返回晋阳去守一城之地，那我们就成贼了。人心一散，部众就会溃散，如何能保全自己？灭亡的日子就要到了，我怎么能不悲伤呢？”
李渊听后醒悟过来，连忙派人召回了已经开始返程的左路军。
渡过黄河后，李渊本想挥师直抵长安，裴寂对他说：“河东郡的屈突通有十万大军，我们如果弃他不顾，而去进攻长安，如不能攻克，就会腹背受敌！不如先消灭屈突通，再挥师长安，这样比较稳妥！”李渊听后，又开始犹豫不决。
李世民劝老爸说：“屈突通是仅能自守之敌，不足为虑！兵贵神速，我们要乘着屡战屡胜的军威，一举拿下长安。如果迟疑不决，白白地浪费时间，让长安的官军做好准备，就会让自己耽误于坚城之下。到那时，人心就会离散，大事就全完了！”
自从晋阳起兵后，李世民的目标就很明确：用尽可能短的时间攻占长安。确实，只要占领了长安，就控制了整个西北，进而可以问鼎中原，那整盘棋就活了。李世民毕竟是一代英主，其战略眼光，绝非一般人可比！
李世民善于用兵，大唐的江山一大半都是他打下来的。所以，“玄武门事变”后，李渊将皇位让与他，也是应该的，此乃后话。
李渊攻占长安后，尊隋炀帝杨广为太上皇，立杨广年仅十三岁的孙子，代王杨侑为隋恭帝，自称唐王，大都督，大丞相，玩起了挟天子以令诸侯的把戏。