要想拿下各部，只能各個擊破。也虧得公孫上哲、趙元楷、郭琨三人的關系不怎麼樣，才給了歐彥分化瓦解的機會。
三部之中，最不能用的是公孫上哲所部。公孫上哲所部的關中兵分別有幾個關中世家子弟把持，凝聚力強，戰斗力也強。不過其軍因為屬于中央軍編制，也傲氣的很，跟其他兩部關系也差。而且這些關中人思鄉心切，吵著要回關中，即使收服了這些人，也很難留下。
而另外兩部則情況不同。
淮南相對穩定，所以淮南軍多是府兵；而淮北是天下最動亂的幾個地方，淮北軍幾乎都是新招募的流民組成。
而因為如此，歐彥便最先打上了淮北軍的主意。
在歐彥看來，這些人幾乎都沒有了家室拖累，帶到江南之後，給他們娶妻生子，便能在江南定居。
淮北軍是一個成編制的部隊，其軍也不是按照地域府兵制組成的，而是正兒八經的募兵。諸將以趙琨為首，但趙琨並不是一個武將，也壓制不了諸將，只能算淮北軍的代言人。其下的一些軍頭，幾乎都是些土匪、強盜一般的人物。主要是趙琨掌著軍糧，眾人才以其為首，同時也是抱團取暖。若是讓趙琨指揮具體某一部，能不能成功還真是難說。
淮北軍自己也很清楚，他們就是湊數的部隊，搞不好就要當炮灰，因此各軍極其散漫，士氣不高，戰斗意志也不強，整個一群混日子的部隊。若不是留在軍中有糧吃，有地方住，早不知道有多少人潰逃了。
這種軍隊，用不好就是一處膿包。
歐彥到了軍中，便調趙琨為長史，掌軍中政事，但剝奪了趙琨的兵權。趙琨也不留戀，高高興興地當他長史去了。對于趙琨，誰願意跟這群土匪、強盜在一起誰是孫子。
然後歐彥暫時就在了淮北軍中。
歐彥在淮北軍中待了兩日，便離開了其軍中，之後不久便召各軍頭議事。在淮北軍中待兩日是為了方便眾人投靠，而離開淮北軍中，便是為了方便動手。
歐彥是以犒賞的名義召集的眾人，因此一眾軍頭高高興興的來到大營。
眾人沒想到這是個鴻門宴，等到眾人全部來到，歐彥立刻命人動手將眾人拿下。除了之前投靠歐彥的軍頭，其余全部處死。
不怪歐彥狠辣，因為歐彥已經給過眾人機會，只是這些人沒有抓住。
歐彥又調集部隊，來到淮北軍營中，對營中士兵、將領進行清洗。淮北軍中的大部分軍頭被處死，眾人面對刀槍，根本不敢掀起什麼事端。沒了帶頭者，也沒人敢反抗，因此整個淮北軍盡為歐彥所掌控。全軍整編後約八千人，按照豐州軍的習慣進行了整編，由歐彥麾下鷹揚郎將郭行存統帥。
至此歐彥在江都收編了第一支成編制的部隊。
歐彥拿下了淮北軍，趙元楷和公孫上哲皆是大驚。沒想到歐彥不聲不響，卻是這麼干脆利落，三下五除二便破了局，還佔了先手。看著淮北軍各軍頭的慘狀，二人是心有戚戚，也擔心落到這般下場。
歐彥把第二個目標定為了趙元楷。
趙元楷是前宰相趙芬的兒子。為人諂媚，擅長搜括民財。若是讓他搞歪門邪道的東西，他自是擅長，但若是讓他領兵打仗，卻是有些為難他了。往日在軍中，吐萬緒也是直接越過趙元楷，將軍事指揮下放到各府。
歐彥知道這種人未必願意受行軍的苦，也不在乎兵權。
歐彥親自去見了趙元楷。
當歐彥拿著關于趙元楷貪污受賄的材料放在趙元楷面前時，趙元楷都要嚇尿了。若是平時貪污受賄也算不得什麼，畢竟這年頭有幾個清官。但趙元楷不是傻子，若是歐彥拿著這些材料為前奏，狠狠地查他一番，他絕對好過不了。自己干的那些事到底有多缺德，趙元楷太清楚了。
趙元楷立刻就向歐彥慫了。他很清楚歐彥的目的，沒必要跟對方魚死網破。
歐彥見趙元楷這麼上道，二人便進行了一番親切友好的交流。
歐彥向趙元楷保證，此戰得勝之後，必有趙元楷一份功勞，他還可以請求朝中的衛公，必會給趙元楷一個好位置。而作為交換，趙元楷要將手上的兵權全部交出，不再過問麾下事務。
換了旁人，自是不會願意，畢竟很多時候，軍隊是立身之本。但趙元楷卻是個例外，他知道底下人也不服他，鬧什麼的都有，他就算強要統帥，也沒多大意義。況且現在歐彥又拿下了他的把柄，他還不如跟著歐彥混點軍功，哪天又調到太平地方。
趙元楷欣然同意了歐彥的建議，帶著一眾心月復、親兵離開了軍中。歐彥將其部和在延陵的路棄疾一同整編裁汰，合計共一萬兩千人馬，由鷹揚郎將朱琿統帥。
拿下了這兩支部隊，歐彥的基本目的便已經完成。兩軍兩萬人，再加上原本的兩萬多人馬，共計四萬余人，足以橫掃江南。
歐彥于是下令各軍盡快準備南下。
歐彥不顧及公孫上哲所部，一直等著歐彥動手的公孫上哲卻是有些坐不住了。他一直是蓄勢待發，準備狠狠地給歐彥一個回擊，沒想到卻落了一個空，心里自然難受。
可歐彥現在急著南下，哪里顧得上再跟公孫上哲周旋。
公孫上哲便想著對歐彥試探一番，看看歐彥的真正目的，因此主動公孫上哲向歐彥請戰，求為先鋒。歐彥本不想用公孫上哲，又看對方老是上躥下跳，留在眼前實在礙眼，便令公孫上哲率部南下救援丹陽郡。同時歐彥又借口軍中馬匹不足，強行從公孫上哲軍中留下了一千匹戰馬。
公孫上哲不願留在歐彥麾下，因此能獨自率軍南下丹陽正中其意。雖然因此付出了一千匹戰馬，但公孫上哲深恐歐彥後悔，給完馬後，直接就向南跑了。
歐彥也不在意，平白得了一千匹戰馬，便又能組建一支五百人的騎兵。
此時楊廣催得緊，歐彥也不耽擱，當即下令，全軍準備南下。