本來在臨清關的時候，楊玄感都有些絕望了，連一群農民都能擋住他，他怎麼和洛陽的禁軍相抗，這造反之事也太不順了。可是沒想到樹挪死，人挪活，楊玄感從臨清關撤退之後，立刻有了新的境遇。
楊玄感大軍南渡之後，進入滎陽郡。
滎陽郡作為南北交通要地，有著大量的役夫和流民。這些役夫背井離鄉，在滎陽郡缺衣少糧，又要服繁重的勞力，早就對朝廷恨之入骨。
可以說這群人只要給頓飯吃，絕對都是最忠誠的反賊。
這時李密獻計，可以黎陽倉的糧食為誘餌，招募這些役夫、流民。此時楊玄感無兵無將，比起那些跟胡鬧一樣的封官許願，唯一能夠依仗的，也就是黎陽倉的糧食。
楊玄感于是听從了李密的建議，下令在滎陽郡放糧募兵。沒想到消息很快傳遍河南、河北各地，整個黃河兩岸的災民不知道有多少。這些人缺衣少食，幾乎是有今天沒有明天，只得在各地苦苦難捱。如今听到放糧消息，那些活不下去的流民一窩蜂地往滎陽而去。
整個大、小道上都是聞訊而來的災民，幾乎堵塞了道路。
楊玄感見此大喜，每個來參軍的士兵都給足了糧食，更是使得這些災民對楊玄感感恩戴德。
沒兩日，楊玄感所部已經暴增至數萬人之多，還有增大的趨勢。
而且眼看楊玄感的叛軍聲勢越來越大，河南各地一些豪強、地主也坐不住了。這些人很多都是楊素的舊部，還有想跟著楊玄感搏前程的人，紛紛加入到楊玄感的隊伍之中，投奔楊玄感的人多得就象市場上一樣。一時之間，楊玄感的叛軍聲勢異常浩大。
此時的楊玄感也一改往日的頹唐，開始準備西進。
楊玄感乃下令其弟楊積善率兵三千從偃師以南沿著洛水向西面進軍，他自統兵于其後跟隨。而與此同時，進攻河內不克的楊玄挺也從白司馬阪（一名白馬山，在今河南洛陽市東北三十里）越過邙山從南面進軍，兩支部隊準備合擊洛陽城。
消息傳到洛陽，朝野震驚。
楊廣因為四處巡幸的原因，常年不在朝中，因此洛陽、長安兩地反倒形成了一套正常運轉的班子。每次楊廣出行，除了一直跟隨他的皇長孫，便留次孫燕王楊倓和三孫越王楊侗二人常年坐鎮洛陽和長安。
沒有成年皇子，這也是沒辦法的事情。
不過洛陽朝廷雖然楊倓是留守，但他畢竟才十歲，根本掌不得事，因此權利便為下面的大臣掌握，而具體到人，便是擔任副留守的民部尚書樊子蓋。
楊廣很信任樊子蓋。
樊子蓋是廬江人，出身北齊舊臣，曾做過北齊的太守。樊子蓋投降北周之後，一直在外為官，歷任各地太守、刺史、總管等職，兼職文武，因而與朝中的各勢力派沒有什麼牽連。而且樊子蓋為人清廉謹慎，不納賄賂，治軍嚴格，是個強硬派人物。
楊玄感叛亂消息傳來之後，朝中眾人又驚又懼。洛陽城內雖然還有數萬軍隊，但這群人是什麼貨色大家都很清楚。眾人為楊玄感聲勢所震，心思不一，哪里有抵抗之心。
這時眾人各有意見，不少人紛紛請求朝廷暫避回長安。
這些人也打著別樣的心思，尤其是關隴世家之人，覺得朝廷若是能趁此機會搬回到長安，那最好不過，因此這些人也在私底下散布流言，制造恐慌。
樊子蓋卻不為所動，厲聲斥責朝堂上建議要遷都的人。樊子蓋作風強硬，手段狠辣，此時他兵權在手，沒人敢再言語，樊子蓋急了可是敢殺人的主，當初在河東處置廢漢王之事也是殺的人頭滾滾。
樊子蓋一面征調各軍，加強洛陽城內外的防務；一面命軍隊巡查各坊，嚴查造謠、生事之徒，一旦抓獲，嚴懲不待。
眾人見樊子蓋殺氣騰騰，為其所懾，因此不敢再在明面上生事，反倒潛入私下里繼續為亂。
雖然現在看起來很平靜，但樊子蓋也很清楚，此時的安靜只是暫時的，若是楊玄感兵臨城下，其後果不堪設想，這些人不是會直接望風而逃，便是會私底下合謀將洛陽城送給楊玄感。
此時洛陽城內的禁軍主力早就被楊廣帶走了，洛陽城內的都是一些府兵，打不得硬仗。
時任河南少尹的張方翼建議集中全部兵力緊守洛陽城，等待天子援軍。洛陽的軍隊，也只得守城，一旦出擊，十多年沒有經歷過戰陣的他們，必是有敗無勝。
但是樊子蓋卻不同意。
樊子蓋雖然知曉張方翼素來知兵，但他本人有自己的考慮。
首先，朝廷經不起叛軍兵臨城下的影響，一旦讓楊玄感打到洛陽城下，無論結果如何，必會導致海內震驚，天下震恐，四海之內的不軌分子怕也會因此而蠢蠢欲動。到時候這些人趁機響應楊玄感，必會導致處處烽火，天下大亂。
同時對于堅守洛陽城，樊子蓋實在沒底氣。他雖然跟那些關隴世家沒太多聯系，但也清楚這些人與楊廣的關系，怕是大多數人都盼著楊玄感打入洛陽城，推翻楊廣的統治。指望這些人去守衛洛陽城，無異于與虎謀皮。
但是這些人又控制著洛陽城的方方面面，所以看似強大的洛陽城實際上處處是漏洞，哪里擋得住叛軍的千軍萬馬。
樊子蓋以為，決不可困守孤城，反而應該主動出擊，在楊玄感所部壯大之前將其消滅，而不是讓他在洛陽城底下壯大聲勢。
雖然張方翼苦勸，但是樊子蓋並不從。
樊子蓋決定派遣河南令達奚善意率領精兵五千人向東抵抗楊積善；又命令將作大匠、河南贊治裴弘策率領八千人向東北方向抵抗楊玄挺。
至于張方翼，樊子蓋雖然沒有同意他的建議，但是還是倚為重用。朝廷中他可以信任的人並不多，而張方翼卻是其中之一。而且張方翼擅長守城，當初曾擊敗過侵入關中的突厥騎兵，雖是文官，也是一員良將。
樊子蓋便令張方翼協助他打理軍務。