在黃明遠向西追擊楊玄感殘部的同時，洛陽周圍的隋軍也分別向洛陽周圍的叛軍發起了反擊。
楊玄感的叛亂，雖然聲勢浩大，影響深遠，但其實其叛軍的戰斗力很是有限。尤其是其中一批精銳早就讓楊玄感挑選干淨，因此位于洛陽的十余萬叛軍，不過是一群不會打仗的農夫和一群老弱病殘，根本算不得軍隊。
這些人一部分是投機，一部分是被裹脅，並不能完全當做叛軍來對待。
黃明遠當初到達洛陽城之後，擔憂樊子蓋這個屠夫會殺紅了眼，不分良莠一口氣屠殺盡這些叛軍，因此便以其兵敗落架溝為名，奪了他的兵權和處理善後事務的權利，只命其維持洛陽城的運轉。
樊子蓋也是無理，只得怏怏地交出了兵權。
而洛陽城的防務和河南郡的善後，黃明遠則全部交給了張方翼。
張方翼本就是河南少尹，也熟悉情況，其分批、分類的安置叛軍百姓，盡量減少殺戮，降低爭議，將變亂消弭于未發生之前。
不久之後，東來的隋軍也先後攻下了滎陽和虎牢關，抵達洛陽，而偽將韓世諤、顧覺等人皆被俘獲。
跟著楊玄感造反諸人之中，地位最高、名聲最顯赫的，除了李子雄便是韓世諤。
韓世諤身為名將韓擒虎的兒子，又曾擔任過涼州總管，也算是一位大將。當初他因為楊廣變更爵位制度而丟了爵位，又沒有官職，因此對楊廣憤恨不已。這一次听聞楊玄感起事，不辨局勢，便一怒之下，憤而起兵。他原以為能恢復祖宗榮光，可是楊玄感對其並不信任，也不委以重任，只是以韓世諤率兵三千，東進滎陽郡。
韓世諤聞此，心涼了一半，說好的中流砥柱，國之棟梁呢。
只是自己造的反，哭著也得繼續下去。
韓世諤也是有本事的人，此時此刻，他硬著頭皮，一路東進，直抵滎陽城下。
滎陽城大門緊閉，城中的郡守與當地的世家大族為了明哲保身，選擇既不納韓世諤也不與韓世諤交戰。滎陽為洛陽東面之門戶，本為拱衛洛陽之要地，但當地的世家擔心改朝換代的風險，只得選擇等待洛陽的戰果。
韓世諤手上三千人馬，難以破城，但他可不願等著城中守軍發善心。為了破城，他便暗地里聯系自己的堂弟滎陽郡丞韓孝範。
韓世諤本是過繼給韓擒虎的，其父是韓擒虎的弟弟名將韓僧壽，韓孝範與韓世諤實為一女乃同胞的親兄弟。
韓孝範也是膽大，在城中眾人還在爭論之時，趁著混亂，便突然出手，率領親信打開城門，迎韓世諤入城。
韓世諤佔領滎陽城之後，脅迫城內以鄭家為首的大家族，助其守城。此時鄭家為首的是族長文城郡太守莘公鄭元的二弟原歸昌縣公鄭善願，他們不敢對抗韓世諤，因此只得听從韓世諤的調遣，為其獻人獻財。
韓世諤得到城中世家的佐助，實力大增，手上的兵力暴漲到萬余人，甚至一度派兵向東攻打東郡。
不過好景不長，此時大將軍來護兒西來討逆，滎陽城便是首當其沖。
韓世諤是正兒八經的官二代，又曾做過總管的高官，因此根本看不起來護兒。眼看來護兒身為天子心月復，步步高升，這一次韓世諤鉚足了力氣要給來護兒一點顏色瞧瞧。
來護兒匆匆西來，裝備也不齊全。
韓世諤據城而受，而來護兒則率軍攻城，雙方在滎陽城展開了一場攻守大戰
韓世諤佔了地理優勢，來護兒佔了兵多優勢，因此一時之間，誰也無法擊敗對方。雙方在滎陽城相持了近十多日，各有勝負，但來護兒並沒有攻下滎陽城。
這時，從洛陽傳來的消息打破了雙方僵持的局勢。
楊玄感兵敗西逃。
很快這個消息便秘密流傳于滎陽城中，城中各大世家知道，到了該拋棄韓世諤的時候。
這時，以鄭家為首的世家大族，秘密集會，聚集私兵，聯絡城外的來護兒，再次打開了滎陽城的城門，引來護兒入城。
還在苦思對策的韓世諤听到鄭家人叛，而來護兒已經入城的消息，心中大驚。不過韓世諤也不傻，他很清楚鄭家等人是滎陽的地頭蛇，人心皆在鄭家，不是他可以比的。此時滎陽城已破，而來護兒兵力遠勝于他，再在滎陽與來護兒爭奪，勝算不大，因此韓世諤急忙下令全軍突圍。
此時韓世諤趕到兵營，便調集舊部向西而去，之前新募的軍隊也被他拋棄了。在韓世諤看來，這些新募之兵，不知道有多少是鄭家的人，根本靠不住。因此韓世諤突圍，只帶自己帶到滎陽的三千人馬。
不過韓世諤還是高看了自己部隊的凝聚力。
其部逃出滎陽之後，各部聞得楊玄感兵敗的消息，紛紛潰逃。這些部隊也皆是新募之兵，且大多都是農夫，本就對楊玄感沒有什麼忠誠之心。此時聞听楊玄感兵敗，還不四處逃命，唯恐無法與叛軍月兌了聯系。
韓世諤還沒到虎牢關，兵馬已經逃散了一多半。
韓世諤一路緊趕慢趕地到達虎牢關，原以為能松口氣，沒想到洛陽之兵竟然已經分兵攻打虎牢關。
關中主將是顧覺，顧覺雖然是楊玄感的心月復，但明顯不是一個良將。
裴仁基和來整奉黃明遠之命，從金墉城西來，佔據偃師之後，兵臨虎牢關下。虎牢關雖為天下之險關，但實際上卻是防東不防西。
因為虎牢關實際上屬于洛陽外圍防線之一，朝廷也自是防備有人據關叛亂的危險。隋軍很輕松的便攻破了虎牢關西面的城牆、兵營，與顧覺在虎牢關相持。
韓世諤的到來，雖然給顧覺補充了一部分兵力，但並沒有太大意義。
韓世諤也盡力幫著顧覺守城，但關中兵馬，早就士氣喪盡，全無戰心，任憑韓世諤和顧覺如何鼓舞，全無作用。甚至不少人到了夜間，便從城牆上縋下，投奔隋軍。
等到來護兒主力從東面趕來，雙方夾擊，虎牢關還是落入隋軍的手中，而韓世諤本人也被俘虜。
至此，洛陽與山東郡縣的聯系被完全打通。