如果说李渊在以前只是有想法的话，那后来他到太原担任山西河东抚慰大使以及太原留守后则是明目张胆的开始实施自己的想法。当时的右勋卫长孙顺德、右勋侍刘弘基，为了逃避出征高丽，都亡命在太原，左亲卫窦琮也因犯法而逃到太原，这些犯罪的官员逃到李渊的地方躲避朝廷刑法，李渊也就暗中收留他们。这摆明了就是与朝廷过不去的举措，但是对已有谋反之心的李渊来说再正常不过了，俗话不是说“敌人的敌人就是朋友”吗。
在谋反之前，一贯老谋深算的李渊行事当然更是小心谨慎。史称李渊“素怀济世之略，有经纶天下之心”。大业十二年，杨广南巡，他看到中原空虚，认为反隋时机正在成熟，于是命长子李建成以照顾家属为名，“于河东潜结英俊”，以供己驱用，自己则坐镇太原“密远雄图”。大业十三年初又命次子李世民“于晋阳密招豪友”。一个“密”字，贵穿了李渊起事前的所有行动。
但纸里终是包不住火，李渊的“叛逆之心”还是被他的下属时任马邑郡丞的李靖觉察了，这个李靖就是后来有战神之称的唐朝名将李靖。李靖决定去告发李渊，但是当时李渊对太原一带的控制已经非常严密，于是李靖便伪装成囚徒坐上监车混出李渊的势力范围，前往江都，向驻跸在那里的杨广告变。但此时战事四起，中原的交通已被封锁，跑到了长安之后，李靖已无法前行，只好留在了京师。后来李渊起兵迅速占领了长安后，他也就被俘了，李渊对此还恨在心就下令把他斩杀，在临刑前他大叫：“公起义兵。本为天下除暴乱，不欲就大事，而以私怨斩壮士乎！”李世民又大力劝李渊放了他，最后李靖才免于一死，才有后来的战神李靖。
李渊有野心有想法，并在暗中做准备，但是他知道大隋帝国没有表面显得那么败落，如果他过早的出来反对杨广反对大隋，那么他就会像杨玄感一样瞬间被碾碎，最终身首异处。所以他一直蛰伏。等待大隋最弱的机会。当杨广再次南巡带走了绝大部分精锐部队，李密围攻东都洛阳进军中原的时候，他的儿子李世民、幕僚裴寂等人都纷纷劝他起兵，下属刘文静向李世民进言希望他能劝李渊造反他说：如今李密长期围攻洛阳，皇上流离迁徙淮南，跨州连郡的大“贼”与阻碍山泽的小‘盗’已有几万起了，只等待真主驾马驱驰去夺取。果真能够顺应天命人心，举起义旗大呼，则天下不难平定。现今太原郡逃避盗贼的百姓都来到此城之中。我任县令几年，知道哪些人是豪杰之士，一旦互相召呼
（本章未完，请点击下一页继续阅读）