此時的遼東，除了一部分想入幕府的，眾人的關注力還是集中在淵太祚身上。黃明遠終于決定遼東兩線出兵，準備徹底覆滅高句麗。
當日兵敗的淵太祚，一路北逃到扶余城，總算勉強保住性命。
可此時扶余城並不是一個安全的地方。從開原城到扶余城不到二百里路，沿途無險可阻，根本擋不了隋軍多久。
高句麗軍隊屢戰屢敗，已經失了信心，從上到下都彌漫著一股悲觀的情緒，淵太祚根本沒有抵擋住隋軍的決心和勇氣。
而且高句麗武將凋零，此時連個能用的將領都沒有。
最最重要的是，平壤已經告破，國主高元已經投降，這意味著高句麗已經亡了，他們連個正兒八經的身份都喪失了。
淵太祚遂決定擁立高元的三弟高建武為高句麗新的大王。
當然淵太祚也沒有其他合適的人選。
高建武是高元一朝的要臣，先後在遼東城和扶余城抗擊隋軍，在高句麗軍中影響力極深。
擁立高建武為大王，既可以獲得高句麗名正言順的繼承權，又可以獲得還活躍在各地的高句麗老臣的支持。
因此淵太祚回到扶余城的當日，便匆匆忙忙地舉行登基大典，將高建武扶上王位。
淵太祚又向扶余城中的百姓和士卒詐稱，隋軍攻破平壤城之後，進行了屠城。自大王高元以下滿城老幼，俱被隋軍屠殺。他希望以此來激起城中軍民的決心和士氣。
當然淵太祚不知道的是，及其的恐懼或許比勇氣更多。
淵太祚此時盡可能地鼓動起所有人，甚至還給高元追尊了謚號，若不是時間不夠，他就要給高元舉行葬禮了。
憑借這些手段，淵太祚暫時穩住了城中的軍心。
當夜，淵太祚便召集屬下，準備撤離扶余城。
但扶余城也不是想撤就撤的。扶余城是原高句麗第三大城，僅次于平壤城和遼東城。而且扶余城曾是扶余國的國都，高句麗又源于扶余國，所以扶余城對于高句麗人政治意義重大，是高句麗北方的政治、經濟、軍事核心。
若是就這麼放棄了，很多人實在接受不了。
但淵太祚手上不過萬余人，根本不堪一戰也是事實。
這時身為高句麗新王的高建武主動去拜訪扶余城中的各大家族領袖和軍中將領，勸說他們同意撤退，並積極邀請各大家族加入新建立的高句麗朝廷。他又積極勸說滿城的百姓和士兵，向他們解釋扶余城現在的境況，告訴他們現在只是暫時規避隋軍，等到以後，還會重歸舊土。
高建武的一波游說，獲得了很多大家族的支持。
眾人也不是不明白撤退的必要性。只要現在丟家舍業，那損失算誰的，總得要有人為此承擔責任，或者是向新朝廷換取好處。
在高建武看來，關于以後的許諾，若是高句麗敗了，自然不會兌現。若是高句麗重獲新生，那點東西誰又會在乎。
總之，原本在淵太祚手上只不過形同傀儡的高建武，成功的向各大家族和老百姓展示了一番自己的新形象，也獲得了一波擁護者。
實際上高建武領兵多年，又怎麼會甘心只做一個淵太祚手中的傀儡。若是可能，他會費盡心思搶奪回屬于自己的權利，即使是一個顛沛流離的王，那也是王，不容下面的人欺辱。
此時要撤退，並不容易。
扶余城是高句麗經營多年的北方重鎮，物資豐富。此時高句麗人手上最重要的只剩下扶余城的多年經營，若要撤退，必然將帶走全部物資。
可現在隋軍緊隨其後，不知道什麼時候就會突然殺到，為了爭取時間，必須在隋軍主力到來之前撤退。
淵太祚遂下令明日一早，必須讓軍隊和百姓分批開拔，最遲不得晚于後天一早，所有人都要離開扶余城。
要在這麼短的時間內撤離，還有帶走全部物資，其難度可想而知。
說是一日之內全部撤走，但真正實行起來，根本不可能。此時北撤，全無固定地點，這就代表著很多無法貯存的物資根本不能攜帶。軍隊還好，有官吏約束，但那些老百姓，不僅帶上了值錢的東西，還把家中的雞、鴨、牲畜、壇壇罐罐全部帶上，不僅走不快，還造成了道路擁堵。
這是逃難，不是搬家。
一整天的時間，各處都在協調，各處都在生亂。
淵太祚眼看如此，心知再這麼下去，隋軍打過來十次也走不了。他于是下令，命軍隊先行，除了攜帶糧食、武器、馬匹、鎧甲等軍用物資，全部拋棄。
至于城中的老百姓，先是貴族先撤，然後分階層再行撤退。
到了第二日拂曉，有在南線的部隊斥候匯報，在扶余城南不到二十里的地方已經有隋軍騎兵出沒。
淵太祚很清楚，隋軍騎兵出現，說明其主力已經離著扶余城不遠了，若是再不撤退，便走不了。
看著滿城「烏央烏央」的百姓，淵太祚實在顧不得他們了。
雖然他們北上進入叢林之中，沒有部眾肯定不是長久之計，但那畢竟是以後的事情。于是淵太祚下了一條命令，城中百姓自行往北找朝廷匯合，然後他便率部向北逃去。
至于城中的百姓，沒了組織，又擔憂隋軍屠城，只得各自逃命。
此時高句麗軍隊已經撤了，眾人徹底沒了管束，為了逃命，到處都是爭奪道路的事情。很快不少人趁亂開始打劫，很多無賴、流氓混在逃難的人群之中。
在危險和絕望的時候，人們不僅不能守望相助，反而會激發最原始的獸欲，整個扶余城徹底亂了起來。
等到劉黑闥率領騎兵到達扶余城，便看到城內城外處處烽火，到處都是劫掠、廝殺的場面，滿城都在哀嚎和申吟。
劉黑闥也想不明白扶余城怎麼會發生這樣的事情，難道淵太祚縱兵劫掠了，但這里是他的老巢啊。
此時的劉黑闥也顧不得其它，先命人制止騷擾，進行救火，穩定整個扶余城的形勢。扶余城是遼東最北面的一座大城，位置重要，隋軍還有依靠扶余城來向北出擊，可是不能毀了。