這一次平定河北，光是投降、歸附、收編的各路軍隊，差不多有數十萬了。這些軍隊當然不可能完全整編為隋軍，否則其臃腫的士兵數量便會直接把隋軍後勤困死。但這些部隊也有相當一部分是精銳，若是將他們解散了，實在可惜。
黃明遠麾下的軍隊，原本在豐州時有著較為系統的軍制。但之後黃明遠東征遼東、南平河北，麾下部隊來源廣泛，各部編制相對混亂。而且因為之前多次戰功以加榮餃為主，導致很多人官職相同，品級相差巨大。有四品的虎賁郎將，也有二品的虎賁郎將。有統帥數萬人的虎賁郎將，也有統帥千人的虎賁郎將。
而且這些虎賁郎將、虎牙郎將有的隸屬于中央，有的隸屬于郡縣，還有的隸屬于行台，彼此管轄也無比混亂。
軍制混亂，自然影響軍隊的戰斗力。
黃明遠自然不能容忍這種混亂的管理模式，便準備重新整編各軍。
當然，這是種僭越的行為，說黃明遠心懷不軌也可以。但黃明遠既然敢在文官上大規模調換，軍制上更不在乎。
這個時代的地方權力，仍是巨大的，要不然也不會稱之為一地諸侯，常有動亂發生。到了明清，一府之地的面積幾乎是唐朝好幾個州的面積總和，但從未出現過知府叛亂的情況，便是如此。
黃明遠于是以豐州軍制為藍本，重編軍制。
豐州軍制，十人為一伙，十伙為一隊，騎兵兩隊一旅，步兵五隊一旅，兩旅為一團，車騎府轄兩騎團，兩步團，驃騎府轄三騎團，三步團。算是補充兵，一個車騎府有三千四百多人，而一個驃騎府更是五千一百多人。
但這只是因為黃明遠當時為了增加兵力設的，各部相對別的地方人數都較多。後來車騎府、驃騎府改鷹揚府，基本上一團便有一鷹揚府的兵力。
這一次，黃明遠仍以十人為一伙，設火長；
四伙為一隊，約四十余人，設正副隊正；
三隊為一旅，約一百三十人，設正副旅帥；
三旅為一團，約四百人，設正副校尉；
三團為一營，約一千兩百五十人，設鷹揚郎將、鷹擊郎將、營參軍各一名；
營以上設軍，轄三步營，一弓弩營，一騎營，一斥候旅，一工匠旅，一警備旅，加上軍醫、後勤人員、文職人員等，約六千八百人，設虎賁郎將、虎牙郎將、師參軍各一名；
軍以上為衛，每衛轄四軍，加上衛屬軍校，衛屬警衛，軍醫院，文工團，以及其他輔助人員，接近三萬人，設總管一名，副總管兩名，長史、司馬、衛監軍各一名，諸曹參軍事、行參軍等若干。
在黃明遠的設計中，未來主要的軍事單位還是軍，六七千人的編制，有一千多騎兵，進可功，退可守，機動靈活，方便調動。而一衛足足有三萬人，若是再加上輔兵和後勤隊伍，五萬人也不止，一旦出動，則相當于大兵團作戰了。
河北諸軍現在有左武衛、右屯衛兩支中央軍，二軍數量差不多相當于計劃中的一衛；而行台下屬的龍驤、虎威、鷹揚、豹韜、控鶴五軍，兵力則略有不足。
一旦這七支部隊整編完成，黃明遠手中便有足足七支戰略部隊，可以同時面向河東、河南、山東等多個地方作戰。
七支部隊，數量不足，要補充的基本上從胡兵和降兵中選擇。
左武衛，由右侯衛大將軍淯陽侯荊元恆為總管，從三品銀青光祿大夫席玭和從三品銀青光祿大夫斛律進周為副總管；
右屯衛軍，由右屯衛將軍西河侯張文遠為總管，正三品金紫光祿大夫辛文禮和正四品正議大夫楊義琰為副總管；
龍驤衛，以龍驤軍為主體整編，正三品金紫光祿大夫左武衛將軍斛律晟為總管，正四品正議大夫呂會彥和正四品正議大夫宋君明為副總管；
虎威衛，以虎威軍為主體整編，從三品銀青光祿大夫劉雲芳為總管；從三品銀青光祿大夫高元臻和從四品通議大夫王君廓為副總管；
鷹揚衛，以鷹揚軍為主體整編，正三品金紫光祿大夫李靖為總管，從三品銀青光祿大夫黃明徐和正四品正議大夫王伏寶為副總管；
豹韜衛，以豹韜軍為主體整編，正三品金紫光祿大夫黃明溥為總管，從三品銀青光祿大夫全旭和從四品通議大夫李客師為副總管；
控鶴衛，以控鶴軍和竇建德所部為主體整編，正四品正議大夫王辨為總管，從三品銀青光祿大夫徐虎子和正四品正議大夫蘇邕為副總管。王辨級別確實不夠，但黃明遠身邊也的確沒有合適的人選。
當初的幽州新軍各種原因，將領職務偏低，經驗也遠不如當初的遼東諸軍豐富。這一次黃明遠從遼東諸軍抽掉了呂會彥、全旭、高元臻、王伏寶等數百位各級將領充實各軍，使得各軍戰力迅速強大起來。
七衛有二十一萬人，足有近四萬騎兵編制。從上到下，將領幾乎都是經歷過北伐草原、東征高句麗、圍殲始畢可汗等戰爭的干將，對敵經驗豐富，乃是一等一的精銳。
除了七衛，還有五胡軍。
人數最少的宣義軍所部，近四千人盡被分入各軍之中。對此突地稽也沒有辦法，在黃明遠的分化瓦解下，入隋的栗末靺鞨八部，基本上完全同化為漢人。
至于其余昭義、保義、懷義、順義四軍，數量過多，不好拆分，但軍中精銳也多被選入各衛中。
黃明遠為了進一步分解各胡兵的實力，仿照當年漢武帝建立胡騎校尉部，從四軍中抽調五千人，建立了虎騎軍，轄騎兵四營。虎騎即胡騎，全軍皆為胡人組成。其軍由張儉和高開道二人統帥，張儉睿智，高開道悍勇，二人配合，完全壓制來自各處的胡人。
虎騎軍的建立，更一步削弱了胡人的兵勢。剩下的胡人四軍，差不多只剩下四萬余人。黃明遠手上十多萬胡兵，已經漸漸被分解了。
此時的河北大軍，車轔轔，馬蕭蕭，寶刀出鞘，枕戈待發。