氐族人苻坚建立的前秦是中国历史上第一个统一北方的少数民族政权。苻坚的雄心很大，希望统一全国，在发大军向东晋进攻的同时，派大将吕光前往经略西部。吕光在占据河西走廊一带后，拥兵自重，脱离前秦，建立了后凉政权。苻坚南下不久在淝水被东晋丞相谢安打败，狼狈逃回，自身尚且难保，对吕光更是无可奈何。
沮渠蒙逊的两位伯父罗仇、麹粥分别是后凉的尚书和三河太守；从兄男成为将军，守晋昌；蒙逊本人则是宫廷宿卫。一家人都是吕光死心塌地的部属。可吕光对自己的手下忠臣却并不珍惜，随意处置。一次，后凉进攻鲜卑乞伏部建立的西秦，大败而回。吕光听信谗言，杀了作战不利的罗仇和麹粥。
伯父无辜被杀，沮渠蒙逊非常愤怒，于是借发丧的机会，联络本族部众，起兵造反。从兄男成听说后也聚众数千，起来响应。大概是被别人领导惯了，不习惯自己做出头鸟，男成发兵包围了建康，软硬兼施，把建康太守段业逼上了领导位置。公元397年五月段业自称大都督、龙骧大将军、凉州牧、建康公，改元“神玺”。让段业当头儿只是男成一个人的意思，蒙逊事先并不知道，等蒙逊了解到内幕的时候，木已成舟，无法改变。在接受了段业封的镇西将军职务后，沮渠蒙逊曾经几次对段业的用人、用兵提出不同意见，都被否决。可事实证明沮渠蒙逊的建议都是对的，这让他更加不服气。
段业逐渐知道沮渠蒙逊非比凡人，于是敬而远之，时刻提防着他。蒙逊不甘心永远居于人下，于是秘密会见男成，希望联手除掉段业。可男成不想自己打自己嘴巴，拒绝了。蒙逊无奈，只好自己动手。深谙权谋之道的沮渠蒙逊知道，要想除掉段业又不引起严重内乱，必须制造一起由段业牵头的让所有人都愤怒的血案。无毒不丈夫，沮渠蒙逊决定把男成作为牺牲品。
公元401年，沮渠蒙逊约男成一同到兰门山祭祀，暗中却又遣人告诉段业，“男成要叛乱，如果他请求到兰门山祭祀，那就是要行动了。”段业信以为真。蒙在鼓里的男成兴冲冲地来找段业请假外出，段业二话不说，马上把他推出斩首。沮渠蒙逊一见大功告成，马上派人四处张扬，诬蔑段业杀害开国功臣。民众的激情被煽动了，纷纷投到蒙逊麾下，连段业派来讨伐的将军也纷纷叛变，段业眨眼间成了孤家寡人，不久被杀。
六月，沮渠蒙逊自己做了大都督、大将军、凉州牧、张掖公，改元“永安”。自己的亲族和原来段业的臣属都被封了官，大家都很高兴，以为遇见了明主。
当时的北凉是一个典型的夹缝里的政权。东面有后凉吕隆（氐族）和强大的后秦（羌族姚兴）；西面是一年前才从北凉分裂出去的西凉李暠；南面则是两个鲜卑政权——南凉秃发利鹿孤、西秦乞伏乾归。北面虽然没有敌人，可遍地除了戈壁沙漠，就是崇山峻岭。在中原，则是北魏和南朝宋政权。
北魏和刘宋虽然庞大，毕竟离得远，只好上表称臣就够了。这也是沮渠蒙逊始终没有称帝，甘心接受北魏和宋朝册封的原因。对于四邻，沮渠蒙逊认为南凉最不好惹，只好卑躬屈膝，主动送上对方点名要的兄弟做人质。为了能站稳脚跟，蒙逊开始励精图治，招贤纳士，减轻赋税，发展生产，积聚力量。对于饱学之士，蒙逊大多委以重任，甚至还仿效中原汉族皇帝发出诏谕，鼓励百姓进言献策。对于违法乱纪、坑害百姓的行为，蒙逊拿出大义灭亲的架势，两位伯父亲信、孔笃偏要考验一下侄儿的决心，结果都被勒令自杀。
经过数年休养生息，蒙逊势力渐强，开始逐步向外扩张。公元402年，后凉国都姑臧发生严重饥荒，蒙逊趁机发兵攻打。不知道是因为过于轻敌，还是自己的好运气都用光了，这一战不但没赢，反而损兵折将，最后不得不献上10万斗粮食赔罪。后凉不仅振奋了军心，还解决了粮荒问题，真不知道是应该恨沮渠蒙逊，还是应该感谢他“及时”前来进攻。
次年，南凉主动约蒙逊一起进攻后凉。后凉国主吕隆眼看无力自存，于是主动投向了东方大国后秦。蒙逊眼看后秦即将成为邻国，赶紧向后秦进贡。南凉一看北凉抛弃自己投入了大国怀抱，十分不满，遂于公元406年向北凉发起进攻，并别有用心地把战利品献给了后秦。后秦皇帝姚兴愚蠢至极，不仅相信了南凉秃发氏的忠诚，还把姑臧送给了他。
公元410年，南凉再次出兵攻蒙逊。蒙逊终于时来运转，在穷泉大败敌军，并乘胜进围姑臧，克之。公元412年，蒙逊自张掖迁都姑臧，称河西王，改元“玄始”。
南凉败落，西秦乘机进攻，取而代之。西秦强大，北凉屡次吃败仗，于是调整战略方向：南面主守，西方主攻，把矛头对准昔日的分裂者——西凉。
公元417年，西凉李暠病死，其子李歆嗣位。李歆不理政事，大兴土木，屡征民役，并不听大臣劝阻，于公元420年七月，亲自出兵讨伐北凉。蒙逊早有灭李氏之心，于是有意散布要南征西秦的消息，诱西凉前来。李歆果然上当，以为张掖空虚，带大兵来偷袭。沮渠蒙逊派兵埋伏于怀城，大败李歆。后来又在蓼泉击败西凉军队，杀死李歆。蒙逊乘势西进，占领酒泉。在酒泉，沮渠蒙逊学习汉高祖刘邦约法三章，严禁抢掠。西凉臣子、百姓感恩戴德，纷纷投入北凉。
李歆弟李恂据守敦煌，继续与北凉对抗。公元421年，沮渠蒙逊亲率大军2万围攻敦煌，在城外三面筑堤，以水灌城。李恂惊慌失措，于敦煌城失陷时自杀身亡。占领敦煌后，北凉打通了前往西域的道路，西域各国纷纷称臣纳贡，北凉实力达到顶峰。
解决了西方，沮渠蒙逊开始集中精力对付欺压了自己多年的西秦。双方几次大战，互有胜负。北凉毕竟国小力弱，薄弱的经济基础难以承担长期的战争需要，打速决战还可以，消耗战就不行了，和西秦的战争恰恰陷入了消耗战的泥潭。
不过蒙逊的运气实在是好，原本强大的西秦居然首先丧失了信心，于公元430年投降了北魏。北魏给了西秦一张空头支票，让他们前往平凉一带居住。平凉的主人、大夏国主赫连定没有识破北魏的玄机，大举进攻西秦，一举消灭了它，替沮渠蒙逊报了仇。
公元433年，失去对手的沮渠蒙逊生了重病，不久病死。国人推举其子沮渠牧犍做了河西王。牧犍嗣位后，继续向北魏和宋朝称臣，并把妹妹兴平公主嫁给拓跋焘做了右昭仪，自己则娶了拓跋焘的妹妹武威公主。
北魏早有统一天下的远大目标，北凉迟早要灭掉。这时，沮渠牧犍干了一件蠢事，给了大舅子一个借口。
沮渠牧犍的嫂子李氏貌美，牧犍与之勾搭成奸。这个李氏是个醋坛子，暗中抢了别人老公也就罢了，居然还想鹊巢鸠占，给武威公主下了毒药。公主中毒后，拓跋焘派太医前往急救，算是保住了一条命。拓跋焘要求沮渠牧犍交出李氏，牧犍竟然还很钟情，坚决不交，还把李氏送往酒泉躲了起来。拓跋焘大怒，马上给牧犍安了12条罪状，然后御驾亲征。在北魏铁骑面前，北凉军队不堪一击，很快丢了国都姑臧。拓跋焘对这位妹夫开始还算不错，不过大臣们却不想放过他，不时上一道奏章揭发他的“罪行”。拓跋焘逐渐厌烦，于是把他连同他的妹妹一块儿赐死。
姑臧陷落后，沮渠牧犍的弟弟沮渠无讳占据酒泉、敦煌，多次和北魏军对抗。可是胳膊终归扭不过大腿，只好重新走上匈奴祖先的老路：占据西域。公元442年，无讳率万余落抛弃敦煌，占领鄯善。在鄯善和敦煌之间有大片沙漠，而且遍布流沙，无讳虽然占有了鄯善，可部众有一半以上被流沙吞没，损失惨重。无讳退到西域，拓跋焘也懒得管他，不再向他进攻。无讳从此偏安西域，做起了西域小霸王。
公元444年，无讳去世，弟安周即位。公元460年，被北魏击败的另一个游牧民族柔然向西迁徙，经过西域，顺手消灭了安周，北凉最终灭亡。
随着北凉的灭亡，匈奴民族再也没有以国家形态出现在中华大地。其实，无论是汉国、大夏，还是北凉，和称雄于蒙古高原的草原帝国都有很大区别。匈奴帝国从单于到部族首领基本都是匈奴族，是纯粹的民族政权。归降并受到重用的外族数量很有限，起到的只是智力补充作用。汉国等三个政权则不同，在他们的政府中充斥着大量的汉人和其他少数民族精英分子，而且不再是配饰，而是主宰。匈奴人只是大头目，是领袖，而不是全部。沮渠蒙逊除了血脉，看不出一丝胡气，和中原王朝的皇帝没什么区别；刘渊一家虽然保持着狼性，但并没有摆脱汉文化的影响，其政权组织模式和中原王朝没什么两样；即便是比昔日的大单于还凶狠的赫连勃勃，手下也有一个被捧为神仙的汉族谋臣——王买德。
魏晋南北朝时期是民族大融合的时代，从最残暴最野性的赫连勃勃到深度汉化的沮渠蒙逊，历史似乎有意设计了三种模式，分别代表融合的三个阶段。历史是曲折的，即便是温文尔雅的沮渠蒙逊也曾有过屠城敦煌的暴行。融合伴随着血腥，似乎也是无法回避的历史之“道”。
这里还有另外一支重要的匈奴分支——鲜卑宇文部，我们没有提到。并不是它不重要，也不是因为它建国太晚，而是因为在它身上实在看不出匈奴的影子。北周的创建者宇文泰只进行过一次改革，而且还是鲜卑化的，他希望用鲜卑人的血性，而不是匈奴人的狼性来抵消掉一些过度汉化的消极影响。与其说他是匈奴人，还不如说他是鲜卑文化的捍卫者。
在北凉灭亡以后，匈奴民族逐渐淹没在中华民族的汪洋大海中，只有从个别历史人物的身上才能找到它的影子。不过，这个民族没有消失，在匈奴人纷纷入主中原，割据称雄的时候，在西方，在地中海北岸，西迁的匈奴人同样在用腥风血雨推动着希腊、罗马文化的蔓延扩散，用弓箭找寻着帝国的昔日荣光。
