大业十三年（617年）二月，李渊治下驻马邑（今山西省朔州市）的鹰扬校尉刘武周发动兵变，杀死太守王仁恭，割据马邑而自称天子。三月，刘武周攻破楼烦郡，进占汾阳宫，并与突厥勾结，图谋南下争夺天下。炀帝闻讯后大怒，要提李渊到江都治罪，李渊大为惊恐。在此危急情势下，李世民说：“事情紧急，可以举事了。”后因炀帝又遣使赦免李渊而作罢。 但李渊周围的心腹裴寂、许世绪 等也纷纷劝他起兵，李渊终于下定了反隋的决心。于是，他以讨伐刘武周、防备突厥南下为名，派李世民、刘文静、长孙顺德及刘弘基等人到各地募兵，一个月内便召集部众近万人，又暗中派人往蒲州召儿子李建成、李元吉至晋阳，准备起事。
