斛律晟既取潁川郡，留宋君明一部經營此地，而主力便折道向東南，攻打淮陽郡。
淮陽郡太守是趙佗，一個老牌隋臣，李密行蹤的追擊者，也是大隋僅有的兩個投奔李密的太守。
不過趙佗雖降, 但李密是不信任他的，此時淮陽郡的大部分兵權掌握在房彥藻的部將沈悅手中。
李密落敗之後，趙佗有心投降大隋，奈何沒有掌握兵權，根本不敢動。
不過趙佗畢竟經營淮陽郡多年，在郡內影響力極大。雖然沒發敵得過沈悅，但壞事卻是沒問題的。
斛律晟進入淮陽郡後, 包圍了郡治宛丘（今河南省淮陽縣）城。
沈悅堅守不出, 等待房彥藻的救援。
這時趙佗趁機和城中大戶合謀, 打開了宛丘城門，引隋軍入城。
龍驤衛大軍殺入城中，很快破城，沈悅戰死，其余諸部皆降，至此隋軍算是收復了河南重地淮陽郡。
對于隋軍來說，趙佗自然是不能留下的，一些能打開城門的大戶也是危險源。這些人雖然投降，但忠誠度幾乎為零，並不可信。
斛律晟還是那一招，隨軍。
將這些人帶到軍中，以後想怎麼處置就看他的了。而那些大戶雖然沒法用這個辦法，斛律晟卻是將他們的私兵、家奴、部曲帶走，大大削弱了這些人的實力。
黃明遠現在只是佔領了河南大部的郡縣，離著真正控制各地, 還有很長的一段時間。
而依照黃明遠曾經的手段，怕又是一場血雨腥風。
不怪黃明遠要屢次清洗，實在是不這麼做, 真沒法對付那些盤踞在本地的蠅營狗苟之徒。
既克淮陽郡，斛律晟乃繼續從側面向譙郡進擊。此時斛律晟手中有兩軍人馬，還有七八千降兵。
對于斛律來說，無論是潁川郡還是淮陽郡，除了真正掌握的郡治，底下各縣不過是名義上歸附。而接下來新官上任，綏靖地方，重編戶口，丈量土地，是地方官的事，卻也離不開軍隊。
二郡各留一軍，兵力不多也不少，足以壓制可能出現的亂事。只不過影響了主力部隊的兵力，斛律晟也只得以降兵充任了。
斛律晟這邊進展迅速，算是解了王辯的難。
房彥藻雖然有實力，但可用之兵畢竟不足，以主力在北面抵御王辯所部已經是竭盡全力了, 根本沒有余力再防範著西面的斛律晟。
很快龍驤衛攻破谷陽, 和控鶴衛徹底將房彥藻包圍在譙縣。
因為李密的南逃和戰局的不利，整個譙縣的形勢並不好。隋軍兩軍加起來有四五萬之多，光是嫡系主力也有三萬多人。
這樣的軍隊圍著不大的譙縣城，光是威懾力就驚人。
很快，城中就出現大量的逃兵向隋軍投降。
房彥藻是個狠人，他見人心一天一天散失，軍隊也無戰心，這樣下去，用不了多久，整個譙縣城便會不戰而降。
于是房彥藻就用酷刑嚴厲控制眾人。
房彥藻下令，家里有一個人逃跑，全家不論老少都株連被殺，父子、兄弟、夫妻之間只要告發就可免罪。又命令五家為一保，互相監督，如果有人全家叛逃而鄰居沒有發覺，四周的鄰居都要處死。
房彥藻來這麼一手，整個譙縣立刻就肅殺起來。
可再是嚴刑峻法亦擋不住要逃走的人。于是處死的人接連不斷，而城中居民叛逃亦越來越厲害。房彥藻心硬如鐵，動輒便是株連殺絕，絕不手軟，于是弄得公家私人，人人自危，唯恐受誅。
但這亦無法阻止軍隊成批成批的投降。
到後來房彥藻實在是沒有辦法，只得下令將領在城牆上作戰，而親屬拘留在郡府作為人質。整個郡府成了一個監獄，到最後只要是個小頭目，就是伍長、火長，也得將家屬安置到郡府之中。
譙縣城人口不多，城池亦不大，突然涌入大批軍隊，糧食立刻就不夠吃。
而隋軍在外封鎖的嚴，內外完全斷絕，城中亦沒法補充。
房彥藻便下令將百姓的糧食全部集中起來，統一供應。凡不遵令者，皆被處死。百姓畏懼房彥藻的屠刀，只得乖乖交出活命的口糧。
但這樣做糧食還是不足。
所以剛開始，官府還按照約定，給老百姓提供口糧，但很快，便開始消減供糧的比例。直到最後，糧食越來越不足，只能滿足守城官兵的需要了，房彥藻遂下令斷絕民間供糧，只給軍隊發糧。
對于房彥藻來說，官兵要抵御隋軍，所以是第一位的，但老百姓，那就沒有辦法了。
很快，城中百姓因為沒有糧食，饑餓而死的不計其數。
老百姓為了活命，什麼活的生的都吃。有的人抓來泥土放進瓦甕，用水淘洗，等沙石沉在底下，取出浮在上面的泥漿，把糠麩摻在里頭，做成餅子來吃。因為吃土，人人都身體腫脹而腿腳發軟，骨瘦如柴卻肚子腫大，只得一個個躺在道路上等死。
到最後城里的人只能是吃人肉活命，後來連人肉都快吃絕了。
本來還給郡府中的人質提供糧食，後來糧食不足，只得專供軍隊。于是郡府中的人質都餓死了不少。
消息傳出，這可炸開了鍋。
對于這些將領，本救因為人質的事就憋了一肚子火，現在家人盡被餓死在郡府，他們還有什麼是不敢做的。
于是越來越多的人鼓動起來，向隋軍投降。
這時汝陰郡的房憲伯率軍前來支援。
房憲伯是房彥藻的族弟，率軍為李密攻陷了汝陰郡，被任命為潁州總管。
可惜現在誰來也沒用。
房憲伯率部在譙縣西南二十五里的地方被斛律晟率軍伏擊，其部大潰，房憲伯也死于亂軍之中。
至此譙縣城再無援軍。
或許是守軍的真的絕望了，也或許房彥藻的強力壓迫終于激怒了所有人，兩日之後，城中從軍隊開始，發生動亂，然後蔓延至全城。
房彥藻拼死力戰，被殺于亂軍之中，最後被滿城的老百姓，一人一口肉，嚼得粉身碎骨。
而隋軍進城，只見城中遍布尸體，宛如鬼蜮。
不過這一戰也算是徹底殲滅了房彥藻部主力，不久之後，隋軍便完全收復了譙郡和汝陰郡。