大業九年初，河北的竇建德已經成了高士達的司兵，手上有上萬人嘯聚一方，和河北綠林響當當的一號人物；河南的翟讓則劫掠運河，廣積錢糧，成為大河兩岸最富有的反賊；而作為隋末三大農民軍之一的杜伏威，則較之兩位前輩差了不少，他此時的事業才剛剛開張。
大業元年的泗州之變，讓年少的杜伏威失去了父親和兄長。在逃亡的路上，他母親也染病去世，才十歲的他便成了一個孤兒。
杜伏威有時候也想他那個剛剛拜上的義父，可他偏偏除了知道義父是個大官以為，並不知道義父的真實身份。要想拿著那把馬刀信物去尋義父，無異于大海撈針。
杜伏威遂提著義父黃明遠送給他的馬刀，和輔公祏二人，跟著流民一路輾轉，流亡到齊郡老家。
家已經不成家了。
從大業元年到大業六年，杜伏威一直在家鄉廝混。除了一個遮不住風雨的破爛茅草屋和那把可以殺人的馬刀，他一無所有。
杜伏威也準備找個正經營生，也想過個安穩日子，但此時尚未成人的他又能做些什麼，他根本無法養活自己，為了活著，只得經常穿壁翻牆偷東西。
又一次杜伏威生病，快要餓死了，此時好友輔公祏帶了一只羊給他充饑，這才救了杜伏威一命。
輔公祏和他一樣也是孤兒，現在只得寄居在他的姑姑家，過著吃不飽、穿不暖的生活。輔公祏的姑姑家以牧羊為業，輔公祏便經常從姑姑家送給杜伏威。後來此事被輔公祏的姑父發現，他的姑父心有怨恨，于是上官府告發了他們偷盜的事倩。
現在偷盜已經會被殺頭了，當地縣衙便緊急追捕他們。
杜伏威和輔公祏也是經歷過生死的人，杜伏威更是小小年紀，心狠手辣。二人殺死了三個來捉拿他們的官差，然後趁亂逃命。
吃了官司，殺了官差，二人索性直接落草為寇。
當時兩人年紀還都不大，當上土匪之後，便從小卒做起。成為土匪之後杜伏威逐漸展現出了自己作戰的天賦，每一次不管是打劫過路商販，還是面對官軍的圍剿，杜伏威都能英勇作戰，出則居前，入則殿後，很快就取得了大家的尊敬和信任，在同伙中月兌穎而出。後來他們的頭領被隋軍所殺，杜伏威便被這一伙人推舉為首領。
杜伏威有勇力，有心機，很快揚名四周。兩人就靠著這一股山賊力量，不斷地吞並其它的小股勢力，還接納那些走投無路的人，就這樣慢慢發展成了一股不可小覷的力量。
輔公祏比杜伏威年長，但他自認能力不如杜伏威，甘當綠葉。
杜伏威十分尊重輔公祏，每日里「兄長」長、「兄長」短的叫得十分親熱。創業初期，二人相處無間，配合默契。
大業八年，因為當地官府圍剿，杜伏威所部的生存空間大大減少，杜伏威遂率部逃竄到長白山地區，參加了王薄、孟讓等人的義軍。
杜伏威自然認出王薄便是當初害他們一家的那個天師的徒弟，當即便要找王薄報仇。幸好孟讓在其中轉圜，杜伏威才勉強壓過此事。不過之後他和王薄關系不睦，雙方幾次發生爭斗。後來杜伏威失利，便選擇退出長白山地區，轉道南下江淮。
與王薄爭斗的失敗，讓杜伏威意識到自己的小部隊實力太弱，如果不盡快壯大就根本無法生存，于是他努力尋找機會去聯合和吞並附近的其他起義軍，實力一天天擴大。
杜伏威的部隊一路南下，先是吞並了位于下邳郡的苗海潮。
苗海潮是下邳的土豪，眼看亂世將至，遂結寨自保，並無太大的野心。
杜伏威于是驅兵至苗海潮的塢堡外，派輔公祏對他們勸降道︰「今我與君同苦隋政，各舉大義，力分勢弱，常恐被擒，若合為一，則足以敵隋矣。君能為主，吾當敬從，自揆不堪，宜來听命；不則一戰，以決雌雄。」
苗海潮就是一個鄉土豪杰，所求不過為自保，根本沒見過杜伏威這種土匪行徑。他自知自己沒有稱王稱霸的野心和能力，心中又畏懼杜伏威的兵勢，便率領他的同伙歸附了杜伏威。
杜伏威帶著部隊沿著邗溝和淮水劫掠，很快遇上了在這一帶發展的趙破陣。
趙破陣是海陵人（今泰州市海陵區），也是大業八年新崛起的造反勢力。不得不說，楊玄感一反，直接引來了天下第二波造反浪潮，整個天下的造反或者是半造反勢力是多如牛毛。
趙破陣在海陵起兵，很快被江都的駐軍擊敗。兵敗的趙破陣逃到山陽、漣水（今江蘇省淮安市漣水縣）一帶，以漣水為核心繼續發展勢力。
杜伏威的南下，嚴重侵犯了趙破陣的利益。
當時杜伏威手上兵少，而且年幼，趙破陣便對其無比的輕視，甚至派遣使者召喚他，要求和他合並兵力。
杜伏威麾下諸將感到受到羞辱，紛紛惱怒，要與趙破陣決一死戰。
這時杜伏威心知實力不如對方，不能硬拼，便安撫諸軍，又命令輔公祏整肅軍隊，屯駐于趙營外以防事態變化，他本人親自帶領十個將士帶著牛肉和酒進去拜見趙破陣，做主了後輩的姿態。
趙破陣見杜伏威果然來降，心中大喜。況且在自己大營之中，他更是無所畏懼，便拉著杜伏威進入營帳內，把所有的頭目召集到一塊，舉行盛大宴會並盡情痛飲。
雙方喝得正酣，趙軍一眾將領幾乎人人是酩酊大醉。
杜伏威給趙破陣說著恭維的話語，讓趙破陣喜不自禁。
趙破陣已經喝醉了，趴在桌子上，這時杜伏威突然當場發難，從懷里掏出一柄匕首，捅死了趙破陣。
其余諸人也紛紛動手，將趙破陣軍中的頭目紛紛誅殺。
趙破陣軍大亂，輔公祏也率部突然殺入。趙破陣軍中無主，在杜伏威的勸降之下，紛紛投降了杜伏威。
兼並了趙破陣之後，杜伏威終于成了江淮一位舉足輕重的人物，也開始了從土匪向割據勢力的轉變。