第二日一早，豆盧毓便在總管府擺下了鴻門宴，以自己和朱濤二人的名義招眾文武前來議事。晉陽城中文武到了之後，豆盧毓便圖窮匕見，自言自己奉天子之命，討伐楊諒，現率領晉陽城撥亂反正。同時豆盧毓又拿出來天子的詔書，勸眾人隨他一同反正。
眾人畏懼豆盧毓的兵權，也同樣擔憂楊諒怕是難以翻身，因此紛紛景從。當然其中也有楊諒的心月復，不願背叛楊諒者，皆被豆盧毓派人直接當場殺死，以殺雞儆猴。
之後被豆盧毓從監獄里放出來的皇甫誕來到眾人面前，眾人乃舉皇甫誕總攬政務，又由豆盧毓總領晉陽城中的兵權，為皇甫誕之佐，握有實際權力。
皇甫誕等人乃征調城中壯丁，準備守城。乃令宿勤武守衛東門，宇文永昌守衛西門，元世雅守衛北門，長孫恆布則配合稽胡人守衛南門。
稽胡人進城之後，因軍紀渙散，在城中無惡不作，百姓不堪其苦。奈何豆盧毓等人要依靠這些稽胡人來守衛城門，因此對于城中百姓的怨言，只得裝作不知。而晉陽城中百姓本來因為漢王地位素來驕傲，受到稽胡人如此騷擾更是不滿，因此民心渙散，皇甫誕、豆盧毓等人並不得晉陽城中百姓的支持。
剛開始眾人為豆盧毓所執，只得同意豆盧毓的反叛計劃，跟隨他一同反叛。但之後眾人眼看豆盧毓等人並沒有那麼強的實力，因此不少人起了別樣的心思。
而且楊諒的王妃豆盧氏知道兄長背叛了楊諒之後，帶著兒子楊顥親自當著眾人的面質問豆盧毓的背叛，逼得豆盧毓啞口無言，進退不能。豆盧毓無奈，只得將妹妹和外甥囚禁到楊諒的宮中，使之不能與外界接觸。
豆盧毓此舉，更是讓楊諒一些的舊部不滿，城中氣氛壓抑，人心動蕩。
也不知是不是豆盧毓等人運氣不好，本來眾人預計楊諒要和朝廷大軍相持一段時間，但楊諒敗的太快，豆盧毓在晉陽城根本就沒有做好防備。而且晉陽城中有楊諒的親信偷偷潛出城去，向楊諒報信。
楊諒率領二萬大軍北上之事，豆盧毓毫無防備，等到楊諒到了晉陽城外十余里，豆盧毓等人才發現楊諒大軍。眾人大吃一驚，這才準備抵抗楊諒。
城中本就只有數千士兵，而且經過豆盧毓等人對軍官的清洗，倉促之間，戰力羸弱。皇甫誕又征發上萬民夫守城，但因為稽胡人禍亂晉陽城一事，哪怕皇甫誕在晉陽城威望顯著，百姓也對其嚴重不滿。
含怒而來的楊諒驅兵至晉陽城下，眼看晉陽城城門緊閉，不納其入，勃然大怒，乃令豆盧毓出來見他。
楊諒的大旗在城南高懸，南門的守卒皆是大驚，紛紛詢問長孫恆布。楊諒在並州七年，朝廷盛選僚佐，前後長史、司馬，皆一時名士，因此百姓負擔不重，安居七年，使得楊諒在此頗得人心。
長孫恆布不敢直言對面的乃是楊諒，因此便說這些都是前來詐城的賊人。眾人半信半疑，勉強應戰，但兵無戰意。
楊諒眼看豆盧毓不來見他，南門守將也沒有應答的，因此命紇單貴率軍攻城。
此時南門守衛的除了長孫恆布麾下，還有一群稽胡人，這些人並不認識楊諒。長孫恆布見自己麾下沒有戰力，便對這群稽胡人說道︰「大敗對面的賊軍，並州府庫任憑爾等搬運。」
稽胡人听到長孫恆布竟然要把並州的府庫都給他們，紛紛大喜，乃拼命力戰。
長孫恆布將並州的弩具一一分發給這些稽胡人，等待楊諒的士兵靠近之後，這些稽胡人便用弩機、弓箭射擊城下。稽胡人可不管你是不是漢王，只有有好處，照殺不誤。
楊諒看到城頭上的軍隊，心中大怒。
紇單貴沖了兩個回合，皆沒有擊破對方的箭雨。這時趙子開上前進言道︰「大王，我軍現在只有這兩萬人馬，一旦損耗過多，哪怕攻下了晉陽城，等到黃明遠來了，也未必可守？」
楊諒問趙子開計策，趙子開乃建議攻打其它城門。以漢王在晉陽城的威望，必有軍隊倒戈。
楊諒從計，乃轉道西門。西門的守將是開府儀同三司宇文永昌，宇文永昌本來就不是一員驍將，等到楊諒靠近城門，向城上大喊之後，眾人紛紛混亂，宇文永昌根本控制不了軍隊。
這時有人竟然打開城門，迎漢王楊諒入內，宇文永昌帶人阻止，竟然被眾人圍攻，死于亂軍之中。
漢王楊諒不費吹灰之力，乃進入晉陽城中。
西門一破，其她諸門也沒有能力挽狂瀾的能力。漢王叛軍紛紛沖入城去，很快便佔領了晉陽城，
開府儀同三司盤石侯宿勤武帶著親兵與漢王叛軍在晉陽城中展開了巷戰，宿勤武雖然勇武，但身邊親兵數少，最後戰死于巷戰之中。
其他諸人包括皇甫誕、成端、長孫愷、元世雅、皇甫文顥等人紛紛被俘，被獻給了楊諒。楊諒對眾人早就充滿了怨恨，直接讓人將成端、長孫愷、元世雅、皇甫文顥等人處死。
楊諒又親自勸降皇甫誕，希望他能夠歸順。畢竟皇甫誕在晉陽城的威望很高，又是名臣，楊諒還不想殺他。
但皇甫誕這次被俘，自知必死，乃破口大罵楊諒無父無君，乃是小人，令其懸崖勒馬，早日投降。
楊諒被皇甫誕激怒，竟親自拔刀殺了皇甫誕。
而城中豆盧毓知道漢王楊諒入城之後，知道漢王對自己的痛恨，自己雖然是其舅兄，但絕無幸免之理。因此豆盧毓乃于家中自縊而死。
長孫恆布在南門抗敵，忽然听到西門失陷的消息，驟然大驚。而其麾下將領，听到漢王入城的消息，也一哄而散，四散逃命。
長孫恆布無奈，乃打開南門，準備南逃。
稽胡人首領白鐵干見漢王進城，知道得罪漢王狠了。今日漢王有數萬大軍，一旦報復，他區區千余人的稽胡兵根本無力阻擋。白鐵干為了向楊諒請罪，竟然命人將長孫恆布捉住，獻給了楊諒。
楊諒逼長孫恆布投降，長孫恆布不從，也被楊諒所殺。