一連數日在蒲阪城下踫壁，李淵有些坐不住了。雖然關中近在咫尺，但蒲阪城不下，前往關中的道路便不能打通，關中和河東便不能連成一體。
李淵有心困守蒲阪，到時候城池外無援兵，必然陷落，但他卻沒有那麼多的時間。
李淵心中有些矛盾。
這時長子李建成便勸道︰「蒲阪孤城，得之未必能改變局勢，但若是在此遷延日久，便有可能使隋庭完善布置。今關中大地，近在咫尺，關中百姓，思父親若渴，父親早到關中一日，則關中早定一日。」
裴寂則認為︰「今屈突通據蒲阪，若不先平，前有京城之守，後有屈突之援，此乃月復背受敵，敗之道也。未若攻蒲阪，下之而後入關。京師絕援，可不攻而定矣。」
二人意見難定，李世民也咱出來支持李建成。
「兵法尚權，權在于速。宜乘機早渡，以駭其心。我若遲留，彼則生計。且關中群盜，所在屯結，未有定主，易以招懷，賊附兵強，何城不克？屈突通自守賊耳，不足為虞。若失入關之機，則事未可知矣。」
李淵思索再三，最後還是同意了兩個兒子的意見。
大年初四，李淵命令獨孤懷恩、武士、竇誕等人，繼續圍攻蒲阪。而親自率主力渡河，進駐朝邑（今陝西省大荔縣東朝邑鎮），屯長。
李淵終于踏上了關中的大地。
各地的官吏，幾乎沒有抵抗的，皆是望風歸順。唐軍還未攻到馮翊縣城（今陝西省大荔縣），馮翊郡太守蕭造便直接投降。
李淵此時還並沒有完全背棄大隋，打的是「廢昏立明，擁立代王，匡復隋室」的名義，他還仍是隋臣。此時入關，為了名正言順，李淵乃自領太尉，設置官僚。不管朝廷承不承認，他以太尉的身份入關，反正他覺得是名正言順。
不到這個時候，你無法感受到關隴世家實力的強悍。在各家族的支持下，關中的吏民及諸豪前來投奔的日以千計，扶老攜幼，投奔于李淵麾下。若是不明真相的人見了，還以為李淵是聖賢下凡呢。
關隴各軍，都是以軍功起家，或許文化傳承不足，但最擅長的就是武事。幾乎每個家族都有一支私兵，此時人人響應，一支數萬大軍，頃刻間便組成。
李淵也是來者不拒，充分展示了自己的容納性。他對眾人各授官職，以備僚列，準備從他這里求個官職的，更是絡繹不絕。
很快，華陰令李孝常以永豐倉來降。永豐倉原名廣通倉，位于華陰縣東北渭水南岸廣通渠口，是關中運河的起點，從江淮運往關中的糧食都送到這里，這里乃是關中最大的糧倉。
李淵南下之後，實力暴漲，但因為糧儲不足，所以在行軍途中糧食問題始終困擾唐軍。李孝常的投降，使得關中最大最重要的糧倉，完好無損的落入李淵的囊中，保證了李淵軍糧供應及賑濟饑荒、穩定民心之需要，其重要性幾乎不亞于十萬大軍。
李淵听聞李孝常以永豐倉來降，高興的跟個孩子一樣，拉著李孝常的手不松。
「賢弟之功，當局第一，非封王不足以酬其功也。」一句話，便答應李孝常以後封你一個王爺當當。
李淵這個人，最大的優點便是舍得封官。什麼將軍、刺史、都督乃至公爵、王爵，跟不要錢一樣，都撒了出去，歷史上稱帝九年，光是國公就封了數十個，到後世，都沒法統計唐朝開國到底封了多少公爵。
不過現在，官爵財帛最是動人心，李淵這麼大氣，眾人又如何不願意為其效命。
李淵在長收攏豪杰，但軍隊卻沒有閑著。他派遣長子李建成率領劉文靜、王長諧等諸軍數萬人，進屯永豐倉，扼守潼關，以阻隋軍西援；又派遣次子李世民率軍沿渭水北岸經高陵迂回長安。
同時又命劉弘基、慰撫使殷開山率兵一部南渡渭水，奪取長安故城。
李淵雖然依靠關隴世家，但其實戒心也很重，唯恐淪為關隴世家的傀儡，因此多用其親族、親信掌兵，像支持他的竇家、獨孤家等，雖委以重任，則盡量不給予兵權。
也是李家人多。
李家起家于其祖父李虎，是關隴八柱國中賀拔岳舊部一派的領袖，算是北周一個重要大股東。
李虎有八個兒子，除了長子李延伯留在東魏，早死無後，其余七個兒子，皆官居總管、刺史等高官，李淵堂兄弟十幾人，子佷輩更是數十人。
這才是李淵掌軍的依靠。
各路唐軍進展順利，很快李淵的堂弟李神通、女婿柴紹和郿縣賊帥丘師利、李仲文，盩厔賊帥何潘仁等，合眾數萬來降。
關中盜賊雖不如河北、河南那麼多，但也不少。
李淵起兵之後，李神通便和柴紹、長安大俠史萬寶、河東人裴勣、柳崇禮等人在鄠縣起兵響應。
柴紹雖然沒娶李淵的三女兒李鳳陽，但仍娶了李淵的四女兒。柴紹之父柴慎曾任太子右內率，是楊勇的親信，後來被免除官職，柴家自然要巴結李家。
本來李淵想把三女兒嫁給他，但黃明遠開口為十弟黃明儀求婚，李淵自不能拒絕。而柴紹也失了李淵的嫡女，只能退而求其次，娶個庶女。
李淵起兵太急，來不及通知柴紹夫妻，若非李神通幫助，二人早為隋軍所擒獲。
李神通用兵不咋地，但柴紹還算一員良將。二人合在一起，擁兵萬人，李神通自稱關中道行軍總管，柴紹、史萬寶為副手，裴勣為長史，柳崇禮為司馬，倒是聲勢不小。
何潘仁、李仲文、向善志、丘師利等人，皆是關中豪強。這些人出身不高，也沒有稱王稱霸的理想，造反就是為了尋求提升門楣的機會。此時眼看李淵勢大，能不效命。
不過李神通、柴紹都不是那種能力頂尖的將領，沒有了平陽公主的指揮，這群烏合之眾也只是給李淵增加了一些兵員，卻沒能攻下長安以西大片土地。
李世民佔領涇陽之後，率軍南下，到達長安以西，與李神通會師。這時李淵料定位于河東的屈突通無力西援，遂命李建成選精兵，經新豐（今陝西省臨潼東北），直抵長樂宮；而他本人則自馮翊率軍經下邽（今陝西省渭南市臨渭區下邽鎮）、櫟陽（今陝西省閻良區武屯鎮）西進。
十數萬唐軍，從四面八方，逼近了大興城。