李淵跟眾人商議過後，決定先發詔書，把太原、雁門一帶的水攪渾，然後派人盯住高君雅、王威二人，適當時候，進行鐵血鎮壓，第三部是隨時準備徵兵，做好軍需、糧草等事，未雨綢繆。
眾人商討到了半夜，都滿興而歸，期待著起兵之日的到來。
次日，有一則訊息迅速傳來太原，馬邑郡的劉武周殺掉太守王仁恭，已經聚眾起兵了。
馬邑郡在雁門關外，是中原與草原接壤的一個郡，當年大隋分割了東西突厥，把東面的突厥留在雁門以北的草原地，馬邑郡當初只是為了跟突厥聯絡，加強溝通和經濟往來，也是屯兵為了保護東部突厥，抗衡西突厥。
二十年過後，馬邑郡形成一定規模，裡面漢人、胡人雜居，人口達十多萬人。
劉武周祖籍河間景城，兒時隨父舉家遷至馬邑，少年習武，得過民間拳師指點，拳腳功夫不俗，加上性格果敢，愛打抱不平，在當地綠林中，頗有名氣，年輕時候入伍，驍勇善戰，被提拔了建節校尉，參與過三徵遼東戰，還有雁門之圍。
憑藉一些戰功，他回到馬邑後，已經是鷹揚府副郎將了，太守王仁恭很欣賞這位武將，因此幾次在府內宴請他，希望拉攏成得力干將，誰知劉武周去過幾次太守府邸後，竟與王仁恭小妾私通，時間一久，被王仁恭察覺，只等打算捉姦在床，認證俱全，然後收拾二人。
劉武周先下手為強，利用王仁恭不開倉放糧的藉口，煽動群眾鬧事，親自帶人出其不意，斬殺了王仁恭，然後開倉救濟百姓，拉攏民心，聚眾起兵。
如此一來，馬邑郡就成為反隋武裝之一了。
不過劉武周自知馬邑在雁門關外，沒有天險可守，北面是突厥，南面是隋軍，腹背受敵，兵家大忌，因此，劉武周起兵之後，立即派人去突厥，覲見始畢可汗，打算送給突厥大量的金銀珠寶和美女，換取突厥的支援。
馬邑郡內有隋煬帝在北疆建立的行宮，裡面金銀珠寶無數，美女如雲，劉武周派人運走，一半送往突厥給始畢可汗，一半留下做軍餉。
始畢可汗憑白無故得到大量的珠寶和美人，自然極是高興，而且還能挑撥中原人內戰，削弱大隋的力量，何樂不為？於是，派人送給劉武週一千匹戰馬，另外派使者立劉武周為“定楊可汗”，意思是能夠平定楊室的寓意。
劉武周得到始畢可汗的許諾後，擇日稱帝，建元為“天興”，他的一些綠林朋友，袍澤戰友都跟著水漲船高，封為將軍，以楊伏念為左僕射，妹婿範君璋為內史令，宋金剛為大將軍，還有呂崇茂、尋相、張萬歲等人，都有封賜，一個小政權就這樣誕生了。
這個訊息刺激了西北的豪雄們，金城府郎將薛舉，也趁機殺縣令郝瑗，聚眾起兵，自稱西秦霸王，年號秦興，封薛仁杲為齊公，小兒子薛仁越為晉公，金城西北賊寇宗羅睺率其眾歸附，封為義興公。
西秦也在招兵買馬，招附群盜，劫掠官馬，人數由最初的兩萬，擴增到五六萬人，兵鋒甚銳，所至之處城池皆被攻下。
………
西北武威郡。
鷹揚府司馬李軌到薛舉起兵之後，心中也有了想法，暗中召集同郡人曹珍、關謹、梁碩、李贇、安修仁等人商議。