李淵這麼急著造反，其直接緣由還是因為黃明遠。
李淵本來只是關隴世家的中流人物，又因為其父早死，雖然李虎遺澤仍在，但他本人卻沒有多大影響力，直到他開始掌握兵權。自李淵擔任山西河東慰撫大使後，便成為關隴世家中唯一一個同時掌握兵權和地盤的人，因此他在關隴世家內部備受矚目。
關隴世家頂尖勢力也把目光投到了李淵的身上。
後來李淵擊敗毋端兒，楊廣又進李淵為右驍衛將軍，李淵的地位更進一步。許多人也看好李淵，便暗地里投資起李淵來。
自天子南巡之後，雖然不少人慫恿李淵趁機造反，但李淵卻不是一個傻的。他很清楚自己的實力，雖然他有野心，但卻不會貿然行事，否則一旦兵敗，家族淪喪，難以幸免。
尤其是河北還有黃明遠擁數十萬大軍，實力強大。黃明遠若是調頭向西，他根本無法阻擋。
于是盡管關隴世家各種慫恿，但李淵卻穩坐釣魚台。
但今年六月之後，黃明遠率主力南下，橫掃河北，終于驚到了關隴世家諸人，李淵也沒法再穩坐了。
再等下去，黃明遠大勢已成，誰也制不住了。
李淵內心波瀾乍起，他心中起意，但他還沒有完全掌握太原的兵權，因此不敢輕舉妄動。
七月初，從河北進入河東的盜匪甄翟兒擁兵十余萬，進犯太原。
甄翟兒自王須拔死後，便自立為燕王，和魏刀兒分道揚鑣。他因畏懼河北的隋軍，尤其是黃明遠，便率部翻越太行山，進入河東。
河東盜匪不多，也沒有成氣候的反賊，各地對盜匪的防御較弱。
于是甄翟兒進入河東之後，如魚得水，一路連克河東多處郡縣，直逼晉陽城。
此時在晉陽的李淵便和潘長文一起，率兵馬四萬御敵。
潘長文雖然位在李淵之下，但卻是很不服李淵，處處與其一較高下。而李淵也很是厭惡潘長文，對方仗著兵多，屢次相辱于他。更何況潘長文與王威相勾結，其勢並不弱于他，若不除掉潘長文，他連太原郡也獨佔不了。
此時雙方相遇，李淵和潘長文率騎兵前出，而後軍步兵尚未到達。
眼看對面的賊匪士氣高昂，一眼望不到頭，李淵便故意說道︰「賊軍甚多，不若我等退到榆次城再作計較。」
潘長文听了卻有些鄙夷道︰「李將軍就是這麼打仗的，難道看不出我軍根本退不得。榆次到晉陽十多里，若退到榆次，則晉陽也必為賊匪侵擾，到時候我等有何面目去見河東父老。」
李淵也不惱，只是說道︰「賊軍勢大，我軍恐無人能敵，潘將軍切不可冒失！」
潘長文听了李淵的話，更加不滿，便說道︰「區區賊匪，便將李將軍嚇破膽了，既然李將軍不敢應戰，且看我破賊。」
「潘將軍，只怕你也不是敵軍的對手！」
「那你就看我斬敵！」
于是潘長文便率領千余騎兵前出，李淵攔也攔不住。
眼看潘長文輕出，李淵忍不住露出笑容。這潘長文素來與他較勁，又自矜武勇，誰也不放在眼里。今日他放低姿態，果然激地對方怒而出擊。
潘長文手中千余騎兵，直撲向賊軍陣中。
甄翟兒十多萬軍隊，雖然有相當一部分是裹脅的普通百姓，但其出自上谷，其地多產精兵，麾下也有一支可信賴的部隊。
于是甄翟兒親自率軍出擊，與潘長文戰到一起。
潘長文雖然悍勇，但其部兵少，很快為甄翟兒所部包圍。潘長文率軍突圍，越往外突，遇到的賊匪越多。
潘長文此時無法，只得向中軍求救，但李淵眼看著潘長文被包圍，就是不動。
這時有人勸李淵道︰「潘將軍為賊所圍，是否上前救援？」
李淵笑道︰「我軍步兵不至，僅憑這兩三千騎兵，如何能破賊救援。而且潘將軍勇武，豈是賊人可比，我料他必能破圍而出。」
眾人想起之前潘長文的豪言，又見李淵的笑意，皆是心中一寒，更是無人敢言。
潘長文陷在賊中，左右突殺皆不得出，漸漸力竭。
眼看李淵不派兵救援，潘長文也忍不住破口大罵李淵無情無義，但也只能逞口舌之快。
眾人戰至傍晚，潘長文全軍覆沒。
李淵自引兵返回榆次。
弄死了潘長文，李淵立刻兼並了潘長文的隊伍。此時王威尚留守太原，旁人自無人能阻止。
兼並潘部之後，李淵已經掌握了整個太原三分之二以上的部隊。
此時甄翟兒率部又至，李淵便與之相戰。
甄翟兒人數雖多，但核心部隊差不多兩萬余人，都是一些積年的悍匪。雙方在榆次以西十多里外列陣，甄翟兒布陣十余里，前強後弱，首尾相繼。
李淵卻是不同于此。
李淵將麾下主力布為兩陣︰以羸弱之兵居中，多張旗幟，全部輜重繼後，為大陣；自率精騎千余騎分列左右，為小陣。並舍棄些輜重物資，以誘賊軍中計。
雙方交戰，李淵便命大將高君雅率領大陣居前進擊。
此時甄翟兒登高遠望，以為高君雅所部便是李淵的主力，便率軍中精銳應戰。
高君雅按照李淵的布置，雙方交戰不久，便詐敗後退，沿途遺棄了大批的糧食、財貨等物。
甄翟兒率部進擊，麾下的一眾賊匪眼看到處都是官軍的輜馱，各種財貨隨地都是，一眾人也顧不得追擊隋軍，紛紛下馬來搶掠財寶。
爭搶之下，誰還記得這是戰場。
甄翟兒命人督促各部，但根本約束不住。
此時李淵眼看甄翟兒的主力已經混亂，立刻率領左、右二隊的騎兵，突然出擊，直撲甄翟兒的中軍。與此同時，高君雅也調轉方向，向賊軍沖去。
一眾盜匪本來都已經撒開了搶掠，此時面對突然殺出的隋軍，措不及防，立刻潰退。
賊軍的盜匪有時候的確悍勇，但一旦落入下風，多不能久持。
甄翟兒約束不得，死于亂軍之中。李淵乃乘勝追擊，大破賊匪。甄翟兒軍中多善戰騎兵，李淵乃盡收之。
榆次一戰，李淵保衛了太原，贏得了人心。又除掉了潘長文，奪得了軍事大權。至此在太原郡，再無人可與其對抗。