宣帝神爵四年（公元前58年），單于對于東方的控制力逐漸削弱到一個層次，于是，東方將領們便擁立一位親王即位，號稱呼韓邪單于。單于自然不甘心草原上出現(xiàn)另外一個單于與和他平分草原。所謂“天無二日、國無二君”，呼韓邪單于一旦冊立，就代表著匈奴此后必將產(chǎn)生戰(zhàn)爭，而且必須要一決勝負。
單于出兵討伐，但是其大軍被殺得片甲不留，連單于自己也戰(zhàn)敗被殺。這是由于他人心盡失，并且呼韓邪單于得到了許多將領的支持，實力更加雄厚。和中原政權(quán)一樣，匈奴也相信名正言順。呼韓邪單于殺了老單于便后悔不已，其實，他大可以將單于握在手中，也免得正統(tǒng)一失去，草原大陸便陷入群雄逐鹿的紛亂之中。
見單于被殺，西方將領們?yōu)榱藠Z取草原的霸主地位，也擁立另一位親王即位，號稱屠耆單于。兩個單于，互相攻擊。次年，草原上又崛起了三個單于，于是五單于并立，全國大亂。呼韓邪單于此舉，沒有考慮到自己的聲望難以一統(tǒng)草原，不僅將自己陷入了有王霸之志的群雄的憤恨之中，亦使得此后的匈奴陷入了長期的衰弱。
經(jīng)過一番為敵報仇式的自相殘殺，呼韓邪單于技高一籌，實力強勁的他成為五大單于之中最后的贏家。然而他并非整個草原帝國的最后霸主，因此就在他接連大敗其余四大單于之時，他的一位族兄已經(jīng)在東方自立，號稱郅支單于。
宣帝五鳳四年（公元前54年），郅支單于打著除國賊的旗號，向西進攻呼韓邪單于，大軍不久便進入王庭（當時匈奴的王庭設在今蒙古哈爾和林），呼韓邪單于不敵，大軍節(jié)節(jié)向南敗退。
從這一年起，匈奴分裂為南北兩部分，即南匈奴和北匈奴，匈奴的分裂對于當時正處于鼎盛時期的漢朝而言，無疑是錦上添花的好事情，百余年的紛爭，從當初漢高祖“白馬之圍”的恥辱，到如今坐收漁利的愜意，實在是天翻地覆的改變。
西域列國此時也唯西漢馬首是瞻，南北匈奴要獲取勝利，其關鍵就是得到漢朝的支持，為了爭取外援，南北匈奴爭著向漢朝奉承乞憐和爭著派遣太子到中國充當人質(zhì)，漢朝也采取了來而不拒的策略，兩不相幫。
按照漢宣帝的設想，匈奴一直分裂下去，才是對漢朝最為有利的事情，因此，它只可能去幫助弱者去對抗強者。不久，南北匈奴便高下立判，呼韓邪單于無法抵抗郅支單于的攻勢，向南方漢朝祈求援助，但是此刻的漢朝內(nèi)部，還不能夠下凍決心去幫助他，因為那樣一來，不僅會徹底得罪北匈奴，還有可能“養(yǎng)虎為患”，讓呼韓邪單于強盛起來。
人在屋檐下，不得不低頭。為了表示忠誠漢室的決心誠意，呼韓邪單于于宣帝甘露三年（公元前51年），派遣使者前去大漢乞降，希望自己可以率領部眾，南遷漢朝地區(qū)，宣帝等聞訊，當即大喜，即使得罪北匈奴，也在所不惜，因為這不僅可以彰顯當朝的功績，還可以將匈奴置于自己的控制之下，何樂而不為？于是，宣帝允許了呼韓邪單于的請求。同年，呼韓邪單于率領南匈奴汗國全部百姓和牲畜，向漢朝投降。為了表示中原王朝的熱情，呼韓邪單于到長安朝覲時，漢宣帝在皇宮中大擺酒筵歡迎他。
宴會過后，宣帝和呼韓邪單于商議南匈奴的屬地，這呼韓邪單于不愧是一帶梟雄，他看準了宣帝勢必要幫助自己的決心，遂“獅子大開口”，要求遷居河套。以前，河套就是匈奴最為富庶的地區(qū)，宣帝眼見呼韓邪單于的勢力已經(jīng)很弱，遂同意了他的這一請求，并派大將韓昌率領騎兵一萬六千人，沿著黃河駐防保護。如此一來，宣帝無疑放虎歸山，當然，憑借當時漢朝的實力，宣帝實在是找不到任何理由，去畏懼天下任何一股勢力。
這次朝覲的威懾性效果是顯而易見的，特別是對西域各國而言，無疑是一個晴天霹靂般的震撼，他們認為絕不可抗拒的龐大的匈奴，竟被漢朝征服，并尋求它的保護，試問天下諸國，誰還可以與漢朝相抗衡？于是，西域列國對漢朝更加敬服。為了表示對漢朝援手的感激之情，呼韓邪單于自此不斷向西漢皇帝朝覲。
據(jù)史載，呼韓邪單于的最后一次朝覲是在元帝竟寧元年（公元前33年）。當時大漢江山已經(jīng)易主，劉詢已經(jīng)駕崩，由其與許平君所生的兒子皇帝劉奭執(zhí)掌政權(quán)。自劉詢時代至此，呼韓邪單于在漢朝的全力援助下，力量漸大，不斷反攻，為了繼續(xù)贏得漢朝的支持，他便向皇帝請求與皇帝的公主和親。劉奭一時之間，找不到合適的人選，便把一位宮女王昭君賜封為公主，并賞賜給他。
當時劉奭并不認識王昭君，等到辭行時才發(fā)現(xiàn)她竟是一位絕色美人，使他那數(shù)萬名后宮的宮女們都黯然失色，他大大地跳了起來，下令把宮廷畫家毛延壽殺掉，因為毛延壽沒有把她的美貌畫出來。這就是后來家喻戶曉的“昭君出塞”的典故。
呼韓邪單于依靠漢朝的支持，不斷向郅支單于進攻，最終使得其國不國矣。無奈之下，郅支單于率部向西遷徙，不久便侵入西域北境，滅掉堅昆王國（西伯利亞葉尼塞河上游）和丁零部落（貝加爾湖畔）。
待郅支單于有了立足之地以后，便向漢朝要求送還充當人質(zhì)的太子，漢朝對于呼韓邪單于的強大，早就生出了防范警惕之心，對于北匈奴的要求，自然慷慨答應，并派使節(jié)谷吉一直把太子護送到他的臨時首都堅昆王城?？墒牵瑵h朝統(tǒng)治者們?nèi)f萬想不到，郅支單于不但毫無感謝之情，反而記起漢朝援助他的對手呼韓邪單于的怨恨，竟把漢朝的使者谷吉殺掉。這無疑是在挑戰(zhàn)漢朝的權(quán)威。漢朝遂決意派遣西域的兵馬，襄助呼韓邪單于打擊北匈奴。待郅支單于殺了谷吉之后，才后悔不已，眼看大漢大兵壓境，他知道憑借自己的兵力，實在難以與之匹敵，遂放棄堅昆，繼續(xù)向西遷移。
天無絕人之路，就在北匈奴被南匈奴和漢朝大軍追到窮途末路之時，郅支單于看到了希望。因為就在他們抵達康居王國境后，其國王便送來一封邀請函。原來，此前康居王國在西域部分地區(qū)的勢力爭奪中，屢屢被烏孫王國擊敗，正好聽聞北匈奴有如喪家之犬般來到了自己的城下，料想此番只要收容于他，一來可以憑借其強大的兵力抵抗烏孫，二來還可以讓他們感恩戴德，避免與之交戰(zhàn)。當然，對于漢朝和南匈奴，他們也有所考慮，最后認為，漢朝是不可能因為這樣一股小的勢力，而甘心得罪一個國家的。
果然，漢軍沒有追擊到底，就連南匈奴也不再進擊，因為此時的南匈奴，已經(jīng)成為草原上唯一的政權(quán)。不久呼韓邪單于即向漢朝請求離開河套，回到北方故土，成為草原上唯一的強者，成為此后漢朝的最大隱患，這一點，就連漢宣帝也是始料未及的，可惜此時的漢朝，已經(jīng)日漸衰敗，自顧不暇了。
北匈奴在得到康居王國的邀請后，遂進駐康居都城，與之結(jié)成聯(lián)盟。康居王為了鞏固這個聯(lián)盟，還把女兒嫁給郅支單于，郅支單于也把女兒嫁給康居王，雙方互為對方的岳父。
郅支單于與康居兵一起，攻擊烏孫，面對強大的匈奴鐵騎，烏孫王國自然難以抵御。一時之間，西界邊陲，幾乎全部殘破。然而，好景不長，就在康居王以為，統(tǒng)一西域邊陲，成為第一西域強國的時刻指日可待之時，郅支單于開始躁動不安了，并很快威脅到康居王國的安危。
其中最明顯的，就是郅支單于竟然以康居王國的保護人自居，性情粗暴的他因為康居王國不肯臣服，而將康居王的女兒悍然殺掉，派駐兵力控制了康居的首都，繼而將康居王國中的貴族當做奴隸一樣驅(qū)使迫害。自此，郅支單于開始逐漸顯露出他的野心。他在康居國內(nèi)大肆興筑城壘，并向西域各國發(fā)出通知，要他們進貢。引狼入室的康居王雖然萬般悔恨，卻一點也無濟于事，無奈之下，只能悄悄地向西域漢朝使者祈求幫助。元帝建昭三年（公元前36年），郅支單于殺漢朝使節(jié)谷吉已經(jīng)八年之久，漢朝西域副校尉陳湯，上乘圣意、下順民心，調(diào)發(fā)西域各國軍隊，連同屯墾兵團，共四萬余人，分兩路向郅支單于夾攻。北路穿過烏孫王國，南路則翻越蔥嶺（帕米爾高原），穿過大宛王國，最后在郅支城（哈薩克江布爾）下合圍。郅支單于的兵力不敵，郅支城很快就陷落，聯(lián)軍斬下郅支單于的頭，星夜兼程的將其首級送到長安皇帝朝堂之上。
同時還附信一封，其間言道：“犯強漢者，雖遠必誅！”
經(jīng)過漢朝歷代的努力，特別是漢武帝國策、軍事戰(zhàn)略的制定以及劉詢的延續(xù)和徹底的實施，匈奴遭到了毀滅性的打擊，最終順理成章的使得郅支單于身死，北匈奴亦徹底滅亡。