西晋末年，阶级矛盾、民族矛盾和统治阶级内部矛盾急剧激化。在错综复杂的政局中，内徙中原的匈奴屠各种贵族建立了第一个少数族政权——汉国。从此，中国北方进入十六国时期。汉国的开创者就是刘渊。
两次仕进受阻
刘渊（？—310 年），字元海。远祖是汉初的冒顿单于。冒顿单于娶汉高祖刘邦的宗女为妻，并与刘邦约为兄弟，故其子孙遂以刘氏为其汉姓。刘渊所属的屠各种，是东汉以来依附于中原王朝并建庭于山西离石的左国城（今山西离石县北）的南匈奴的一支。刘渊祖父于扶罗，在黄巾起义时率兵助汉镇压黄巾。因单于庭内乱而不能被立为单于，遂留居中原。自立为单于，乘董卓之乱而攻掠太原、河东等郡，屯驻于河内郡。于扶罗死后，其弟呼厨泉立为单于。刘渊的父亲刘豹被任命为左贤王。曹操执政，分呼厨泉部为五部，刘豹又为左部帅。左部有众万余落，居故兹氏县（今山西临汾市南），是当时左右南北中五部最大的一部。五部共三万余落，分布于晋阳汾涧之滨（今山西汾水流域）。五部虽在形式上保留了匈奴的部族组织，但“单于恭顺，名王稽颡，部曲服事供职，同于编户”（《三国志·梁习传》），实际上却置于中原封建王朝的严密有效的控制之下。
刘渊的母亲也是匈奴人，姓呼延氏。大约在曹魏嘉平年间（249 —254）生下刘渊。他自幼就十分聪慧伶俐。母亲去世时，他年仅七岁，就像大人一样号哭不绝，哀感四邻。宗族部落的人都为之赞叹。当时的司空王昶听到此事，也派人送来办丧事用的财物，以褒奖刘渊的孝道。刘渊所在的匈奴部落，因久在中原，汉化程度较高，故刘渊自幼就拜上党士人崔游为师，学习《毛诗》、《京氏易》、《马氏尚书》等儒家经典。他特别喜欢读《春秋左氏传》和《孙子兵法》，并大体上可以将二书内容背诵出来，他勤勉好学，博览《史记》、《汉书》及诸子百家。他曾对同学朱纪、范隆说：“每当我读《汉书》列传时，常常鄙视随何、陆贾没有武功，周勃、灌婴缺乏文治。承上启下，开创大业，全在于人。做不到博学广识，是君子的耻辱。随何、陆贾在汉高祖开国之世而不能建军功封侯，周勃、灌婴辅佐汉文帝却不能设学立教，真是可惜啊！”于是刘渊又学习武事，并且武艺超众，擅长射箭，体力过人。成年后，身高八尺四寸，胡须三尺余长，体态魁伟，一表人才。屯留人崔懿之、襄陵人公师彧以善于相面著称，见到刘渊后，大惊失色说：“此人形貌非凡，平生头一次看见。”于是对刘渊非常崇敬，甘居其下与之交结。太原士族王浑也虚襟与刘渊交友，命其子王济拜见刘渊。
曹魏咸熙年间（264 —265），刘渊作为任子居住在洛阳，当时输政的司马昭对他十分礼遇。西晋建立后，时为越骑校尉的王浑屡次向晋武帝谈起刘渊。晋武帝遂召见刘渊，与之交谈后，非常高兴，对王济说：“刘渊仪表堂堂，虽由余、金日?也无法与之相比！”王济回答说：“刘渊仪表，诚如圣旨，但他的文武才干却远在由余、金日?之上。陛下如果用他负责对东吴征伐，平定江南，指日可待。”武帝深以为然。但孔恂、杨珧却进言道：“臣下观察刘渊的才能，感到当今之世恐怕无人与之匹敌。陛下如果让他掌握少量兵马，则平吴事难成；若授以威权，则平吴之后，恐怕他将据有江南，不复称臣。与我族类不同者，其心必然不同。以刘渊统帅其部族，臣下尚且为陛下担忧寒心。如果以有天险为凭依的江南资助刘渊，怎么可以呢！”晋武帝默然不语，任用刘渊事亦按下不提。
西晋咸宁年间（275 —280），关陇地区氏族在树机能领导下起义，朝廷屡次镇压均告失败。晋武帝为一举扑灭起义烈火，决定选拔得力胜任的将帅出征。尚书仆射上党人李憙劝武帝说：“陛下如果能够征发匈奴五部的兵力，授刘渊以一将军名号，令其西征平叛，凉州指日可定。”孔恂说：“李公的话，还没有点破消除危患的道理。”李憙勃然大怒说：“以匈奴的强悍善战，刘渊的通晓用兵，再加上奉宣圣威，消除叛乱，还有什么可说的呢！”孔恂说：“刘渊如果能够平定凉州，斩树机能，恐怕凉州才真正有危难罢了。那时蛟龙如得云雨，将遨游长空，不再是池中之物。”晋武帝认为孔恂言之有理，未采纳李憙的建议。
两次仕进受阻，刘渊深知其原委。后来东莱游侠王弥离开洛阳回乡里，刘渊在九曲之滨与王弥饯行，哭泣着对王弥说：“王浑、李憙与我同乡，对我的为人深知熟知，常向皇帝称赞推荐，离间之谗言因此随之而生。这一切本不是我之所愿，却深受其害。我并不想为官仕进，这一点只有你清楚。恐怕今生只能死在洛阳，与你永别了。”说罢慷慨长叹，歔欷不已，纵酒长啸，声调激昂，在座者天不为之凄然泪下。当时，齐王攸也在九曲，闻讯后驰马探视究竟。见此状，遂进言晋武帝说：“陛下不除掉刘渊，臣下惟恐并州不得长久安宁。”王浑劝谏道：“刘渊为人忠信，臣下愿为他担保。再则大晋刚刚宣称要以德招抚四方，殊俗共存，为什么要以没有根据的怀疑而杀匈奴的侍子，以示晋德不弘呢？”晋武帝说：“王浑的话是对的。”
拥晋以图发展
刘豹死后，晋武帝命刘渊代为左部帅。刘渊由洛阳回到了并州。他摆脱了人质的地位后，在自己所辖的部族和地区施展政治才能，史称他“明刑法，禁奸邪，轻财好施，推诚接物，五部俊杰无不至者。幽冀名儒，后门秀士，不远千里，亦皆游焉。”从而为他以后成为匈奴族的主要首领打下了坚实的基础。
太康十年（289），西晋改五部帅为五部都尉，刘渊任北部都尉。杨骏辅政期间，又以刘渊为建威将军、五部大都督，封汉光乡侯，正式承认了刘渊在匈奴五部中的领导地位。元康末年，刘渊坐部人叛逃出塞，被免官。时成都王颖镇邺，表请任刘渊为行宁朔将军、监五部军事，使其脱离五部，在邺城任官。
刘渊被免官和仕宦于邺城，是西晋政权出于“非我族类，其心必异”的民族歧视的心理，企图限制刘渊势力的发展、防患于未然的措施。这一措施引起了长期以来受到中原封建王朝的排斥打击的匈奴上层贵族的不满。当时正值司马氏诸王相攻，“惠帝失驭，寇贼蜂起”，西晋政权对少数族的控制能力大大削弱。刘渊的从祖，原北部都尉、左贤王刘宣遂召集匈奴五部上层贵族，对他们说：“过去我们的祖先与西汉约为兄弟，同甘共苦。自汉亡以来，魏晋更替，我们的单于却徒有虚号，而没有国土可言；至于诸王侯，地位降同编户齐民。现在司马氏骨肉相残，四海鼎沸，正是我们振兴国家、恢复先祖大业的大好时机。左贤王刘渊才能和气宇超众拔群。上天如果不是想要光大尊崇单于，绝不会白白地降生此人。”于是众人密谋，共同推尊刘渊为大单于。又派呼延攸到邺城，将众人之谋告知刘渊。刘渊遂请求成都王颖，佯称回部落参加葬礼。颖不答应。刘渊无奈，只好让呼延攸先回去，告诉刘宣等人纠集五部，再招聚宜阳附近的诸胡族，表面上声称助成都王颖讨逆，实则为以后起兵做准备。
刘渊既然一时不能回部落，只好暂时依附于司马颖。时司马颖废太子覃而自兼皇太弟，又任丞相，在邺城形成与拥戴惠帝的东海王越相对峙的政治中心。刘渊在表面上的恭顺，使他赢得了成都王颖的信任，任命他为太弟屯骑校尉。后来，东海王越率洛阳禁军讨颖，颖又以刘渊为辅国将军、督北城守事。东海王越与成都王颖战于荡阴，越大败，成都王颖取得了挟天子以令诸侯的地位。刘渊也因此迁冠军将军，封卢奴伯。
成都王颖虽取得胜利，但地位并不巩固。东海王越系统的并州刺史东赢公司马腾、安北将军王浚发兵讨伐成都王颖。面对强敌，刘渊劝告颖说：“现在二镇强盛，有众十余万，恐怕宿卫军队及邺城附近的士庶难以抵御。我愿为殿下返回五部发兵，以赴国难。”颖说：“五部发兵是否能确保呢？即使可以发兵，司马腾和王浚手下的鲜卑和乌丸骑兵强悍善战，抵挡其进攻又谈何容易！我打算奉惠帝返回洛阳，避强敌锋锐，然后传檄文于天下，以其叛逆之罪令四方共讨之。你看如何？”刘渊回答说：“殿下是武皇帝之子，有特殊功勋于王室，素有威信恩德，享重名于四海，谁不想为殿下捐躯献身？发四方之兵是易如反掌。王浚区区小人，司马腾是宗室疏属，怎能与殿下抗争？！但殿下一旦离开邺城，示弱于人，是否能抵达洛阳呢？即使到达洛阳，恐怕殿下也难以掌有实权。光凭一纸檄文，谁又肯事奉呢？况且东胡虽强悍，较之匈奴五部却稍逊一筹。但愿殿下能够勉励安抚士兵，镇之以静，我可以为殿下用二部击败司马腾，用三部打垮王浚，二人之首级指日可取。”成都王颖听了这番话，非常高兴，遂拜刘渊为北单于，参丞相军事，派遣他回部落纠集五部，以抵御司马腾和王浚的进攻。
刘渊回到左国城，刘宣等人尊他为大单于。短短二十天，刘渊就招集了五万余众，集中于离石（今山西离石县）。
这时，王浚派部将祁弘率领鲜卑兵攻打邺城，司马颖迎战失利，遂挟惠帝南奔洛阳。刘渊闻讯，说：“司马颖不听我的劝告，稍败就向洛阳奔逃，真是个奴才。但我与他先有许诺，不能不去救援。”于是命令右于陆王刘景、左独鹿王刘延年等率步骑二万，准备进攻鲜卑。刘宣等人再三进谏说：“晋朝不讲道义，视我们犹如奴隶，右贤王刘猛因此不堪忍受而率众反抗。只因当时晋朝纲纪未弛，遂使右贤王兵败，功业未成。这是我们的耻辱。如今司马氏骨肉相残，这是天厌晋德，授之于我。你躬行积德，正应当带领我们的部族去恢复祖先的大业。怎么能攻伐可以引为外援的鲜卑、乌丸而拯救仇敌呢？上天命我灭晋，不可违背。天予不取，反受其咎，愿单于不要再迟疑了。”
刘渊深以为然，激愤地说：“对！大丈夫在世，当如崇山峻岭，岂能甘为蝼蛄！哪有帝王之运长在一姓之理？大禹出自西戎，周文王生于东夷，他们之所以为王，只是有德罢了。而今我有部众十余万，皆能以一当晋十人，击鼓征讨腐败的朝廷，必将摧枯拉朽。上可以成汉高祖一统天下大业，下可以像曹氏拥有半壁河山。只是恐怕晋人未必都能拥戴我。不过，汉朝长期统治天下，恩德深入人心，故刘备树汉家旗号，以一州之地而能与曹氏抗争。我是汉朝刘氏的外甥，与刘氏约为兄弟，兄亡而弟承，难道不可以吗？姑且称国号为汉，追尊汉后主，以招抚民心。”于是刘渊迁都于左国城，远方来归附的人有数万之多。
建立汉国
永兴元年（304），刘渊在左国城正式登上汉王位。他以复汉为名，追尊汉后主刘禅为孝怀皇帝，立汉高祖刘邦以下三祖五宗神主而祭之。对于“乱汉”的黄巾军、阉党、董卓及曹氏父子予以口诛笔伐。又大赦境年，建年号元熙，立其妻呼延氏为王后。依据汉制设置百官，以刘宣为丞相，呼延翼为御史大夫，刘宏为太尉，其余部将授官各有差。
既然刘渊公开打出反晋旗号，据并州一隅之地建立政权，与西晋王朝分庭抗礼，故并州刺史司马腾立即派将军聂玄征讨刘渊。两军战于大陵（今山西交城东南），结果聂玄大败。司马腾闻讯大惊失色，慌忙带领二万余户逃离并州。刘渊派遣建武将军、族子刘曜攻下了太原（太原市南）、中都（山西榆次）、屯留（山西屯留南）、泫氏（山西高平）、长子（山西长子）等军事要镇，控制了晋东南地区。永兴二年（305），司马腾又派遣司马瑜、周良、石鲜等率兵讨渊，屯军于离石汾城。刘渊命令武牙将军刘钦等率六军进攻司马瑜，凡四战，皆胜，司马瑜等落荒而去。
为扭转败局，西晋王朝任命刘琨为并州刺史。刘琨不同于司马腾，具有一定的武干谋略。他到任伊始，即以州治晋阳（山西太原西南）为据点，抚循劳徕，甚得人心。刘琨还派人离间刘渊与其统属的其他少数族之间的关系，使得叛刘渊附晋的“杂虏”达万余落。刘琨的活动，对刘渊构成重大威胁。刘渊遂委任前将军刘景为使持节、征讨大都督、大将军，攻击刘琨于版桥，结果反为刘琨所败。刘琨进一步巩固了他在并州的政治、军事地位。
面对刘琨的威胁，侍中刘殷、王育进谏刘渊说：“殿下自起兵以来，已近一年，而仍居偏方，王威未振。望能命众将四出，择机决战，灭刘琨，定河东，建帝号，率军南征，攻克长安以为都城，以关中之众席卷洛阳。若如此，成高皇帝（刘邦）的大业，易如反掌罢了。”刘渊大喜，说：“正合我意！”于是在永嘉二年（308）正月，他遣抚军将军刘聪等十将南据太行，辅汉将军石勒等十将东下赵魏，将军事活动扩大到西晋王朝的腹地——中原地区。
随着刘渊影响的扩大，其他反晋势力先后依附于其麾下。上郡四部鲜卑陆逐延、氐酋单征，以及叱咤风云于青徐兖豫等州，给予西晋王朝以沉重打击的东莱王弥，都称臣于刘渊。刘渊均署其官爵，委以重任。当王弥归附时，刘渊特地派侍中、御史大夫呼延翼郊迎，致书王弥说：“因将军有不世之功，超时之德，所以隆重迎接。渴望将军之至，我将亲自到将军下榻的馆舍，拂席尘，洗酒爵，敬待将军。”后两人会面，王弥劝刘渊称帝，刘渊十分高兴，说：“我原以为将军不过是悍勇武将，今日方知将军有勇有谋，堪称孔明。我得将军，如鱼得水！”于是任命王弥为司隶校尉，加侍中，特进。后又进弥征东大将军，封东莱公，负责东线战事。
在刘渊的指挥下，汉国政权在对晋的战争中取得了很大的进展。永嘉二年三月，刘渊占汲郡，控制了顿丘、河内地区。七月，刘渊进据河东地区，攻克蒲坂（山西永济西）、平阳（山西临汾西南），并将汉国都城由离石南迁至蒲子（山西隰县）。刘渊兵锋所及的河东、平阳二郡的诸县垒壁望风而降。在并州，刘渊亦控制了除州治晋阳以外的诸郡。九月，刘渊又遣王弥、石勒进攻邺城（今河北临漳县），魏郡太守和郁弃城败走。
为了进一步提高汉国政权的政治影响，加强自身的政治权力，永嘉二年十月，刘渊在蒲子即皇帝位，国号仍称汉，改元永凤。任命其子刘和为大将军，刘聪为车骑大将军，族子刘曜为龙骧大将军。仿东汉制，设大司徒、大司马、大司空为三公；又仿晋制，宗室以亲疏为等，悉封郡县王，异姓以勋谋为差，皆封郡县公侯。不久，迁都平阳，改元河瑞。
进军洛阳
刘渊称帝后，没有停顿对西晋皇朝的军事活动。他遣石勒进攻冀州，连下魏郡、赵郡、巨鹿、常山数郡，陷郡县堡垒百余，众至十余万。同时，接连发动了对西晋都城洛阳的攻势。
永嘉三年（309）三月，晋积弩将军朱诞叛晋归汉，劝刘渊进攻守备空虚的洛阳。刘渊遂以朱诞为前锋都督，以灭晋大将军刘景为大部督，进攻洛阳。刘景先克黎阳（今河南浚县），又在延津击败晋将王堪。刘景嗜杀成性，将男女老幼三万余口沉溺于黄河。刘渊听到这一消息，大怒，说：“刘景还有什么脸来见我！滥杀无辜，天道不容！我所欲消灭的不过是司马氏而已，平民百姓有何罪过！”于是降黜刘景为平虏将军，中止了这次攻洛的军事行动。
同年夏，刘渊又派刘聪、王弥、石勒攻下军事重镇壶关（今山西黄碾南）、屯留（山西屯留南）、长子（山西长子），斩首万九千级。八月，刘聪受命南攻洛阳，大军长驱直入，败平北将军曹武，推进至离洛阳一百里的弘农郡宜阳（河南宜阳市西）。刘聪自恃骤胜，怠不设备。九月，弘农太守垣延诈降，夜袭刘聪，刘聪大败，不得不撤军。
十一月，刘渊再次派刘聪、刘曜、王弥、刘景等率精锐骑兵五万进攻洛阳，呼延翼率步兵为继援。刘聪屯驻宜阳。西晋皇朝没有想到汉军在刚刚败后就再次发动攻势，慌了手脚。刘聪军遂至洛阳城西南的西明门。但因守城晋军死战，攻城受挫。刘渊不得已，只得下令撤军，将兵锋转向徐、豫、兖三州。永嘉四年（310）上半年，汉军在冀、徐、豫、兖等州取得了重大进展。二月，克鄄城（山东鄄城北），杀兖州刺史袁孚，又拔仓垣（开封市北），杀晋将王堪。这几个州的流民有数万家，素为西晋皇朝所苦，故纷纷起来烧城邑，杀二千石长吏以应刘渊。
刘渊在起兵过程中，尽量抑制滥杀烧掠，招徕士人，力求收揽民心。加刘渊部将乔晞杀西晋介休令贾浑，又欲纳贾浑妻宗氏，宗氏不从，晞又杀宗氏。刘渊得知此事，大怒说：“若天道有知，乔晞必定断子绝孙！”遂降乔晞秩四等，又收贾浑尸，以礼葬之。又雁门范隆，上党朱纪，并为士人，刘渊以隆为大鸿胪，纪为太常，并封公。刘渊还委任京兆士人王育为太傅，征召隐士卜珝为光禄大夫。又有后部士人陈元达，刘渊未举兵时曾招之，元达不应。等到刘渊为汉王时，有人担心地对陈元达说：“你难道不害怕吗？”陈元达笑着回答：“我深知刘渊为人，刘渊亦明我心，恐怕二、三天内，就会有委任我的驿书。”果然当天晚上，刘渊就招元达为黄门郎。陈元达屡进忠言于刘渊，甚为得力。又刘渊在俘获西晋河内太守河东大族裴整后，即任命裴整为尚书左丞。但尽管如此，由于刘渊纲纪不严，加之他长期坐镇都城，带兵出征均是其子和诸将，故滥杀无辜，烧掠奸淫之事虽禁不止，愈演愈烈。刘琨曾描绘当时并州的情景：“群胡数万，周布四山，动足遇掠，开目睹寇”，“流移四散，十不存二，携老扶弱，不绝于路。及其在者，鬻卖妻子，生相捐弃，死亡委危，白骨横野”（《晋书·刘琨传》）。虽有夸张，但多少反映出汉国政权不重视抚恤流亡，组织生产以及制止杀掠的措施不力的事实。
汉国政权与汉族之间民族矛盾的加深，使得刘渊建国初期的 “称汉以怀人望”的企图难以实现，故他在永嘉四年七月临终前，为了确保死后匈奴族贵族在政权中的支配地位，委任刘聪为大司马、大单于，并录尚书事，置单于台。实行所谓的“胡汉分治”。这一政体在民族矛盾激化的十六国时期，成为各少数族政权行之有效的统治形式。
永嘉四年七月己卯，刘渊卒。他临终遗诏嘱太宰欢乐、太傅刘洋等入宫辅政。刘渊谥光文皇帝，庙号高祖，墓号永光陵。
刘渊死后，太子刘和即位。刘和生性猜忌无恩，功业不著，威望不高。而刘渊生前又不审轻重之势，给予其他诸子以很大的权柄。如刘聪为大司马、大单于、录尚书事，集军权大权于一身，拥兵十万屯于京师近郊；安昌王盛、安邑王钦、西阳王璿皆领武卫将军，分典禁军，总强兵于内。故刘和即位伊始，就想削夺四王的权力，巩固自身的地位。刘聪当然不肯坐以待毙，他举兵反叛，攻入殿省，弑杀刘和，自立为帝。刘聪继承了刘渊灭晋的遗业，于永嘉五年（311）六月攻陷洛阳，执晋怀帝。但刘聪为人暴虐，嗜杀成性，在他的统治下，汉国政权所奉行的民族仇杀、民族歧视政策，从根本上改变了刘渊举兵反晋的正义性，从而揭开了中国民族关系史上黑暗的一页。