李渊出生于关陇一个贵族家庭。其祖父原是西魏八柱国之一，北周刚建国时被追封为唐国公。其父原任北周柱国大将军。李渊生于周天和元年（公元566年），幼年丧父，7岁袭唐国公爵。隋灭北周后，李渊先后任身侍卫官、太原刺史等职。

公元617年，隋炀帝派李渊到太原去当留守（官名），镇压农民起义。但是隋炀帝不信任他，还任命王威和高君雅为太原副留守，以监视李渊。

公元616年，突厥侵入北部边境，隋炀帝命李渊和马邑太守王仁恭合力抵抗。结果战事不利，隋炀帝于是派使者押李渊和王仁恭至江都治罪。李渊一方面托辞不赴江都，故意纵情声色；另一方面加紧策划。

李渊有四个儿子，其中第二个儿子李世民是个很有胆识的青年，他很喜欢结交朋友。晋阳（今山西太原）县令刘文静就是李世民非常赏识的一个朋友，他跟李密有亲戚关系。李密参加起义军后，刘文静受到株连，被革了职，关在晋阳的监牢里。

李世民知道后，急忙赶到监牢里去探望。李世民拉着刘文静的手，一面叙友情，一面请刘文静谈谈对时局的看法。

刘文静早就知道李世民的心思，他说：“现在杨广远在江都，李密正进攻东都，到处都有人造反，这正是打天下的好时机。我可以帮您招集十万人马，您父亲手下还有几万人。如果用这支力量起兵，不出半年就可以打进长安、取得天下。”

李世民回到家里，反复想着刘文静的话，觉得很有道理。但是要说服他父亲，却不是一件容易的事。正好在这个时候，太原北面的突厥（我国古代北方游牧民族之一）可汗向马邑进攻。李渊派兵抵抗，连连打败仗。李渊怕这件事传到隋炀帝那里，要追究他的责任，急得不知道怎么办才好。

李世民抓住这个机会，就找李渊劝他起兵反隋。李世民对李渊说：“皇上委派父亲到这里来讨伐反叛的人。可是眼下造反的人越来越多，您能讨伐得了吗？再说，皇上猜忌心很重，就算您立了功，您的处境也将更加危险。唯一的出路，只有起来造反。”

李渊犹豫了许久，才长叹一声，说：“我思考你说的话，也有些道理，我只是有些拿不定主意。好吧！从现在起，是家破人亡，还是夺取天下，就凭你的啦！”

李渊把刘文静从晋阳监牢里放了出来。刘文静帮助李世民，分头招兵买马。李渊又派人召回正在河东打仗的另两个儿子李建成和李元吉。

要起兵必须扩大兵力，李渊为太原留守，虽握有重兵，但是仍须招募一支自己的队伍。可是公开招募会引起高君雅、王威的注意。恰在此时，马邑人刘武周杀死了马邑太守王仁恭，占据马邑郡，起兵反隋，且自称皇帝，还勾引突厥直驱太原。于是，这为李渊公开募兵提供了借口。

李渊以讨伐刘武周为托词，召集各位将领商议，提出自己招募兵丁。高君雄和王威迫于当时的形势，只好同意说：“公地兼亲贵，同国休戚，若俟奏报，岂及事机；要在平贼，专之可也。”于是，李渊命李世民与刘文静、长孙顺德、刘弘基、窦琮等人去招募士兵。不多久，便募兵近万人。这支队伍由李渊、李世民父子私自控制和直接指挥，是晋阳起兵的主力。

李渊父子大量募兵，毕竟无法完全掩盖其真实的想法，况且其所用将领长孙顺德、刘弘基是为了避难征辽诏令而逃到太原的，而窦琮也是逃犯。高君雅、王威见此，怀疑李渊有谋反之心，于是就暗中策划利用晋祠祈雨的机会，将李渊父子诱骗来并全部杀死。不料此事被经常出入王、高家的刘文龙得知，于是刘文龙立刻将此事报告给李渊。因此，李渊决定先发制人。

公元617年初夏的一天夜里，李渊命令长孙顺德、赵文恪等人带领500壮士，和李世民的精兵一起埋伏于晋阳宫城外，严密封锁。第二天清晨，李渊与高君雅、王威在留守府大厅议事。按照计划，刘文静召鹰扬府司马刘政会入厅，说：“有密状，知人欲反。”李渊故意让王威先看，但是刘政会不给，并说：“所告乃副留守事，唯唐公得视之！”李渊接过密状一看，是控告王、高暗引突厥入侵。王、高正待辩解，刘文静与长孙顺德、刘弘基等将王威、高君雅逮捕入狱。事也凑巧，第二天果然有突厥数万人进攻晋阳，民众以为是王、高所致，于是李渊趁机杀掉高君雅、王威。这标志着李渊父子正式开始晋阳起兵。

晋阳起兵后，李渊父子的目标就是乘虚入关，直取长安，以号令天下，建立新的王朝。在长安（今陕西西安）的统治者听说李渊带兵进攻，忙派大将宋老生和屈突通分别领兵数万，在霍邑与河东抵抗李渊大军。

大业十三年（公元617年）七月，李渊率军进攻宋老生驻守的霍邑，却逢秋雨连绵，无法开战，而且道路泥泞，军粮运输困难。相持数日，眼看军粮将尽，李渊准备退兵，李世民劝阻道：“今兵以义动，进战则克，退还则散；众散于前，敌乘于后，死之无日。”听了李世民的意见，李渊决定不撤兵。

八月，连日的阴天终于放晴，李渊遂下令攻城，并由李世民率兵诱敌出城，双方展开决战。李世民身先士卒，奋勇冲锋，“砍杀数十人，两道皆缺，流血满袖”。霍邑一战，李渊大获全胜，斩杀了隋将宋老生，攻下了霍邑。随后，李渊率兵进攻河东郡，虽取得了初战的胜利，但是隋将屈突通固守河东郡，李渊久攻不下。后根据李世民的建议，李渊留下部分兵力包围和牵制屈突通，自己率主力部队渡过黄河，直取长安。

同时，李渊在关中地区的家属和亲族也纷纷起兵响应，其中有李世民的胞妹平阳公主、李渊的从弟李神通，李渊的女婿段纶也在蓝田县聚众万余人。

在这种有利形势下，李渊父子一路上采取收揽人心的办法，废除了隋朝的严刑酷法，还开仓济贫。一面收编关中各地的起义军，一面争取关中地主阶级的支持。数月中，李渊、李世民的军队已达20万人，并于十月开始围攻长安。

十一月，长安城破，李渊率军进入长安宫，立年仅13岁的代王杨侑为帝，是为隋恭帝，并改元义宁，遥尊江都的隋炀帝为太上皇。李渊总揽军政大权，晋封为唐王。李建成成为唐王世子，李世民为京兆尹、秦公，李元吉为齐公。

义宁二年（公元618年）三月，隋炀帝在江都被部下杀死，隋朝灭亡。五月，李渊在长安称帝，定国号唐，李渊就是唐高祖，年号为武德。然后立世子李建成为皇太子，李世民为秦王，李元吉为齐王。

