十二月十五日，李逍遙派遣秦瓊、程咬金、羅士信等人率領大軍征討劉黑闥。劉黑闥得知李唐大軍即將殺來，更是毫無顧忌地放手一搏，兵鋒不減；十二月十七日至十九日，三天之內劉黑闥率領大軍又接連攻陷邢州、魏州、莘州，殺了魏州總管潘道毅。半年之間，便全部恢復了竇建德原先的地盤。
武德五年正月，劉黑闥在相州自稱漢東王，建年號為天造，任命范愿為左仆射，董康買為兵部尚書，高雅賢為右將軍，將竇建德的夏政權文武官員全部恢復原職，定都洺州；建立法規主持政務，全部效法夏政權的制度。
二月，秦瓊、程咬金、羅士信等人率領大軍討伐劉黑闥，軍隊駐扎在衛州，劉黑闥多次派兵挑戰，都被唐軍挫敗。劉黑闥見識到秦瓊等人的勇猛之后，心生怯意，決定放棄相州，撤退到列人營設防守衛。這時洺水縣的人要求當劉黑闥的內應，在他們的心目中，李唐大軍才是外來者，秦瓊準許總管羅士信主動請纓進城據守，羅士信臨行前立下軍令狀定要拿下劉黑闥的人頭。
羅士信率領五千余唐軍聽從秦瓊的命令進入洺水縣城，卻不知危險降臨，城中百姓早已投靠于劉黑闥，成為他的內應。劉黑闥退守到列人營后，靜靜地等待著時機一舉攻下城池，活捉羅士信，消滅唐軍。眾人神色緊張地焦急的等待著，徐圓朗與高談圣心急如焚地看著劉黑闥，徐圓朗低聲道：“漢東王，唐軍總管羅士信武藝驚人，就憑我等這些人實在是難以抵抗，不知有何良策破敵？”
劉黑闥緊鎖眉頭，淡然一笑道：“唐軍兵強馬壯，僅憑我軍不足以與他們正面交鋒。不過，朕已經在洺水縣城留下伏兵，到時候自然會管用，養兵千日用兵一時，相信這支突襲軍必定狠狠地給唐軍一個教訓。眾位兄弟不必心急，時機成熟，我軍必定會再次占領城池，唐軍不足為懼！”
高談圣詫異地問道：“不知漢東王在城中留下什么樣的后手？”
劉黑闥神秘兮兮地邪笑道：“眾位兄弟到時候自然知曉，朕此次必定讓羅士信將自己的性命留在洺水城，你們到時候坐上壁觀，不費吹灰之力就可以消滅整個數千人的唐軍。”眾人面面相覷，皆是疑惑不解，不知道劉黑闥的自信來自于何處，只聽劉黑闥繼續分析道：“唐軍與我軍數次交鋒，皆是大勝而歸，而今又占據著洺水縣城，據城以守，想要截斷朕的軍隊后路，熟不知秦瓊此行卻犯了大忌。”
“羅士信乃是驍勇善戰的將領，我軍之中甚少有人能與他抗衡。若是羅士信在城外與我軍交鋒，我軍必定大敗而歸。可是，朕萬萬沒有料到，羅士信會主動請纓鎮守洺水城，猶如一只野獸被困在牢籠之中，他還能發揮多大的力量，還不是任由我們宰割。諸位難道忘記了，洺水城曾是我們的天下，城中我方的探子遍布整個城池。當初，逍遙王在李密身邊派往多人作為內應，如今，朕依樣畫葫蘆，給羅士信一個大大的驚喜。”
正如劉黑闥分析的那樣，羅士信的確勇猛，卻無法與擅于計謀的劉黑闥相提并論。當初退守列入營實屬無可奈何，熟不知給了劉黑闥翻盤的機會。劉黑闥撤離之前，將內應放在城中，以為沒有多大的作用，沒想到關鍵時刻，還得靠他們。在洺水縣城中只有一條可以飲用的河流，劉黑闥臨行前給了內應數量極大的蒙汗藥，命他們找個恰當的時機投入河中，待李唐大軍飲用后，必定猶如死豬一樣，酣睡如雷。
內應在唐軍全神貫注地防備劉黑闥大軍時，疏于防范，使得飲用的水井全部都被內應們投入了蒙汗藥。隨即，臨近午飯時間，唐軍士兵紛紛吃飽喝足，不消片刻，他們只覺得自己的眼皮很是沉重，倒地昏睡而去，就連羅士信都覺得自己非常的困乏，待劉黑闥率領大軍進入城門后，他知道自己被人下了蒙汗藥，想要反擊卻沒有任何的力氣了。
劉黑闥等人望著全身無力倒地不起的羅士信以及數千名唐軍，肆意的大笑起來，然后他命令士兵直接將唐軍全部捆綁起來。劉黑闥再次收復了洺水縣城，羅士信被劉黑闥五花大綁的，想要招降于他，寧死不從，憤怒之下的劉黑闥，直接將羅士信押赴城門上，恰逢其時，秦瓊、程咬金等人率領大軍前來，準備與羅士信一同鎮守洺水縣城，抵達城下時，卻看見羅士信被劉黑闥生擒，眾人皆是大驚失色，他們憤怒地看著劉黑闥等人，咬牙切齒地瞪著他們，在眾目睽睽之下，劉黑闥命令麾下士兵手起刀落，羅士信被斬殺于洺水城上，于是劉黑闥據守洺州。
秦瓊、程咬金眼睜睜的看著羅士信被劉黑闥斬首示眾，而且是當著他們兩人的面，憤怒無比的他們兩人不惜一切代價誓要殺死劉黑闥等人。無奈，劉黑闥重新占領洺水縣城，憑借著洺水的險要，硬是無法攻破城門，而且唐軍死傷不計其數，最后秦瓊、程咬金只能將洺水縣城團團圍住，一字兒擺開軍營來威逼劉黑闥，分別派遣突襲部隊，截斷劉黑闥的運糧通道。
三月，李逍遙率領大軍奔赴而來，抵達洺水縣城，李玄霸也單槍匹馬的趕到此地。當他們看見出門相迎的只有秦瓊、程咬金、尉遲敬德等人前來，卻不曾見到羅士信的身影，而且李逍遙瞥見眾人臉上的哀傷之情，他憤怒地大吼一聲：“劉黑闥，本王要你陪葬！”
眾人淚流滿面地低下頭，就連李玄霸都一臉的哀傷，他知道羅士信被劉黑闥等人斬殺了。李逍遙推演出羅士信有難，就名人八百里加急傳書，命令尉遲敬德率領一萬大軍增援，以防不測，仍然是晚到了一步。李逍遙神情哀傷，怒氣沖沖地注視著洺水縣城，疾言厲色道：“秦二哥，士信是如何死的？”
秦瓊單膝跪地，雙眼通紅的看著李逍遙，自責道：“少主，末將不知城中有劉黑闥的內應，士信誤中蒙汗藥，無力一戰才會被劉黑闥所擒。若是末將不同意士信主動請纓鎮守洺水城，以防劉黑闥大軍再次來襲的話，士信就不會慘遭殺害！末將失職，還請少主責罰！”
“責罰，責任你，士信就能活過來嗎？”李逍遙疾言厲色地怒吼一聲，他知道羅士信慘遭殺害，最痛心的是秦瓊，兩人一起長大，親密無間，羅士信又跟隨著秦瓊身邊南征北戰，親如兄弟，李逍遙知道秦瓊看似風輕云淡，實際上是痛心疾首，他猛地大喝一聲道：“眾將士聽令，明日午時點兵出發，攻打劉黑闥。無論是誰將劉黑闥活捉，擢升三級，賞銀百兩！”
眾人鄭重其事地異口同聲道：“末將得令！”
羅士信年僅二十三歲，就死在劉黑闥的手中，憤怒無比的李逍遙直接懸賞，軍中官職無論大小，只要活捉劉黑闥等人者，一律擢升三級。一時之間，眾將士群情激奮。次日，李逍遙親自率領大軍攻打城門，劉黑闥的軍糧已經耗盡，無奈之下，親自率領大軍與李逍遙正面交鋒，而且李逍遙命令秦瓊等人率領一部分用沙袋直接堵住洺水的上游，待戰斗打響時，劉黑闥率領步兵、騎兵兩萬余人想要度過洺水擺陣，跟唐軍大戰。
劉黑闥率領大軍剛剛度過一半，李逍遙直接命人將堵住的沙袋全部撤離，河水積聚起來形成巨大地推動力，洶涌澎湃而來，使得劉黑闥的人馬無法過河，瞬間就被淹死了數千人；李逍遙親自率領大軍痛打落水狗，殺死了一萬多人，使得劉黑闥的大軍潰不成軍，節節敗退，劉黑闥趁亂與高談圣、徐圓朗等人率領一千余人避開李唐大軍的耳目，逃亡突厥。
突厥大軍被李靖、徐懋功兩人抵御，無法完全進入到華夏國內，全部擋在塞外。頡利可汗暴跳如雷之際，聽聞劉黑闥等人前來找尋自己，大喜過望。之前被李靖、徐懋功兩人率領唐軍抵御住突厥軍，他心中的郁悶，一掃而光，親自出帳迎接，笑道：“貴客來臨，朕有失遠迎，還望包涵！”
劉黑闥等人見頡利可汗如此客氣，受寵若驚地急忙躬身回禮，劉黑闥開門見山地說道：“此次前來，是有事相求，不知可汗是否答允？”
頡利可汗心知肚明，劉黑闥等人的來意，氣定神閑地裝作茫然不知的樣子，疑惑道：“哦，漢東王前來所為何事，但說無妨！只要朕能做得到的，定當竭盡全力，絕不食言！”
“本王想向可汗陛下借一支萬人突厥鐵騎，助本王東山再起！”劉黑闥恭敬地懇求道，“本王與李唐兩虎相爭，華夏大地大部分被李唐占據著。李淵此人忘恩負義，軟弱無能，根本就沒有任何的大才，不配稱帝。本王今日斗膽向可汗陛下借用突厥鐵騎，他日本王推倒李唐統治，愿意割讓鄰近突厥方圓百里之地，不知可汗陛下意下如何？”
“好，漢東王如此有誠意，朕就借兵與你一用！”頡利可汗拍手稱贊道。
事實上，頡利可汗知道劉黑闥的來意，也準備借兵與他，只不過身為突厥國君，以國家利益為重。劉黑闥巧言善變，懂得觀察頡利可汗的心思，知道他對于李淵之前俯首稱臣，李唐強盛時，又翻臉不認人之事，一直都是耿耿于懷，他所言正中下懷，因此兩人達成協議，劉黑闥允諾割讓土地，頡利可汗直接給了他兩萬余突厥大軍，供其驅使。
武德五年六月，劉黑闥借得突厥兵再起，侵犯山東；七月，劉黑闥到了定州，他原來的將領曹湛、董康買以前逃亡在鮮虞，這次又招集人馬響應劉黑闥。十五日，唐高祖任命淮陽郡王李道玄為河北道行軍總管，與原國公史萬寶討伐劉黑闥。
九月，劉黑闥攻陷瀛州，殺死瀛州刺史馬匡武，東鹽州人馬君德背叛唐朝，以東鹽州歸附劉黑闥。十月初一，唐高祖派齊王李元吉統帥討伐劉黑闥。初五，劉黑闥軍進攻鄃縣，貝州刺史許善護戰死；初六，觀州刺史劉君會反叛唐朝，投靠劉黑闥；十七，劉黑闥軍與唐軍李道玄部在下博交戰，唐軍戰敗，李道玄陣亡，史萬寶輕裝騎馬逃了回去。
洺州總管廬江王李瑗棄城西逃，相州以北州縣相繼歸附，十天時間全部收復原有城鎮，又在洺州建都；十一月初三，劉黑闥軍攻陷滄州。初七，李逍遙親自率領大軍再次追擊劉黑闥，勢必要將他斬殺，只不過劉黑闥聽聞李逍遙之名，就望風而逃，不愿與李逍遙率領的大軍正面交鋒，再突厥大軍的幫助下，劉黑闥的大軍攻陷恒州，殺死刺史王公政，又接著攻打魏州。
終于，在魏州被李逍遙率領大軍圍攻，被逼無奈之下，劉黑闥只能率領大軍與李逍遙正面交鋒了。縱然在突厥大軍的幫助下，仍然無法與李逍遙率領的大軍相抗衡，節節敗退，使得突厥將領紛紛震驚不已，他們才恍然大悟，知道李逍遙率領的大軍根本就不像之前的大軍那樣，隨意的碾壓，此次他們是踢到了鐵板上。
劉黑闥只能不斷地后退，李逍遙率領大軍緊追不舍，之前討伐時，被劉黑闥逃走，如今哪里再會放虎歸山留后患。于是，兩軍又在館陶交戰，劉黑闥的大軍被唐軍打得大敗。他只能帶領隊伍向北逃到了毛州，劉黑闥整頓部隊，背靠永濟渠列陣；李唐大軍隨即趕到，雙方再次大戰，經過一番猛烈沖刺搏殺，劉黑闥軍被砍落水死的就有數千人，劉黑闥再次敗逃。
李逍遙任命秦瓊率領騎兵追擊，劉黑闥被秦瓊緊追不舍，得不到休息，路途遙遠士卒疲勞。武德六年正月初五，劉黑闥逃到饒陽時，繼續跟隨于他的只有一百多騎兵，大家都饑腸轆轆，想進城弄東西吃。劉黑闥委任的饒州刺史諸葛德威出城大禮迎接，請他們進城。劉黑闥開始不同意，諸葛德威假裝真誠恭敬，哭著堅持邀請。劉黑闥才走進城門，諸葛德威就指揮部隊拘捕了他，送到秦瓊面前。
二月，李逍遙在洺州將劉黑闥及其弟劉十善一并斬首，山東平定。徐圓朗聞得劉黑闥死訊，棄城而逃，途中為村民所殺。至于高談圣則選擇與李唐大軍做最后的生死決戰，在雄闊海以及蓋世雄兩人的帶領下，繪聲繪色的與李唐大軍交鋒，占據上風，李逍遙再次出兵攻打高談圣，李玄霸直接三錘子雄闊海打死，秦瓊又槍挑蓋世雄，程咬金與尉遲敬德直接將高談圣殺死，使得最后的反唐勢力消失的無影無蹤。
武德七年，即公元624年，大唐終于一統天下，真正的將紛亂的群雄割據的時代終結，成為真正無人撼動的強盛龐大的帝國，也成為華夏大地的掌權者，大唐帝國正式成為歷史中新的國家，也使得唐高祖李淵成為大唐帝國的開國君主，天下真正的成為李家的天下，楊氏江山再無蹤影，而且李淵手中握有傳國玉璽，象征著君權至高無上，他是真命天子，在無人敢反唐，真正的號令天下。