一、忽必烈的即位建元
忽必烈在江北，得知蒙哥死讯，渡江围鄂州。这时，忽必烈妻弘吉刺氏自开平遣使臣来，密报阿里不哥在漠北图谋继承汗位。忽必烈在军前召集他的将领、幕僚商议。郝经说：“大王虽然素有人望，且握重兵，但是不知道海陵王的故事么？倘若他（指阿里不哥）自称受遗诏，便正位号，下诏中原，大王要回去还能行吗？”郝经建议：“断然班师，亟定大计，销祸于未然。”廉希宪说：“殿下太祖嫡孙，而且收召才杰，悉从人望，率土归心。愿速还京，正大位以安天下。”忽必烈命廉希宪先行，观察事变。又命他前往赐宗王塔察儿饮膳，乘机提出拥立忽必烈的建议。塔察儿赞同此议，愿首倡推戴。
一二五九年底，忽必烈许宋议和，自己轻车简从北返，驻燕京近郊。一二六○年三月，返回开平，召集塔察儿等宗王大将，即在开平举行选汗大会。忽必烈弟末哥、东道诸王塔察儿、移相哥（哈撒儿之子）、忽刺忽儿（成吉思汗弟哈赤温子）、爪都（成吉思汗弟别里古台孙），西道诸王合丹（窝阔台子）、阿只吉（察合台子）等拥立忽必烈（元世祖）即汗位。
忽必烈即汗位后，首先任命亲信祃祃、赵璧、董文炳为燕京路宣慰使，以加强对华北的统治。四月，设立中书省，总管内外百司之政，任命山东军阀李璮的幕僚王文统为平章政事，张文谦为左丞。又任八春、廉希宪、商挺为陕西四川等路宣抚使，粘合南合、张易为西京等处宣抚使。
忽必烈即位后，采纳僧子聪等幕僚的建策，依据汉人封建王朝的传统，颁布即位诏，称皇帝。自成吉思汗建立蒙占国家以来，从未建立年号。忽必烈始建元“中统”，下诏说：“稽列圣之洪规，讲前代之定制。建元表岁，示人君万世之传。纪时书王，见天下一家之义。法《春秋》之正始，体大《易》之乾元”，表明他是中原封建王朝的继承人。
接着，忽必烈命亲信官员分任十路宣抚使、副使，其中大多是他的汉人幕僚。七月，改燕京路宣慰司为行中书省，以祃祃为丞相，赵璧为平章政事，张易为参知政事，与平章政事王文统同行中书省事于燕京。八月，又立秦蜀行中书省，以廉希宪为中书右丞，行省事。忽必烈巩固了在中原的统治，随即命诸路输马匹、粮草于开平，以备与阿里不哥一战。
二、与阿里不哥之战
按照蒙古传统惯例，选汗的忽里勒台应在鄂嫩河、克鲁伦河之地举行，而且必须有各系宗王参加。忽必烈在汉地自行集会选汗，显然与传统不合。这时，阿里不哥留守和林大斡耳朵，蒙哥死后监国。忽必烈自立为汗后，阿里不哥也随即在和林举行大会。蒙哥诸子阿速台、玉龙答失及察合台系宗王数人，拥立阿里不哥为汗。
蒙古国家军队的主力，原由蒙哥统率侵宋。蒙哥死后，大将哈刺不花率部退据六盘山，与留守这里的浑都海部会合。阿里不哥派出霍鲁怀、刘太平等来陕西，拘收钱谷，企图与六盘山驻军联合，自关中进兵。廉希宪、商挺等来京兆，先发制人。六月，以谋反罪处死霍鲁怀、刘太平，并处死浑都海在四川的党羽乞带不花、明里火者。忽必烈诏令陕西四川宣抚使八春节制诸军，命巩昌权总帅汪良臣统率陕西汉军防御六盘山的军队。
九月，阿里不哥派遣阿蓝答儿领兵南下，至西凉府，与浑都海军会合东来，哈刺不花因意见不和引兵北去。忽必烈命诸王合丹、合必赤与八春、汪良臣等率领蒙、汉军迎战。两军大战于删丹，阿里不哥军溃败。阿蓝答儿、浑都海相继被杀。
忽必烈亲率大军去和林，攻打阿里不哥。七月自开平出发。九月，至转都儿哥之地。阿里不哥败逃，退至乞儿吉思地，派遣使者与忽必烈相约，邀集西北诸王正式选汗。忽必烈命宗王移相哥统领一军国驻和林，以待阿里不哥。十月，忽必烈领兵南返，十二月至燕京，赏赐拥立诸王。一二六一年二月，返回开平。
一二六一年秋，阿里不哥率领斡亦刺等部众，突然袭击移相哥军，乘胜南下。忽必烈得警，急忙征调张柔、严忠嗣、张宏等七处汉军，并令董文炳率射手千人，塔察儿率军士万人随从出征。十一月，忽必烈军与阿里不哥战于昔木上脑儿。诸王合丹、驸马腊真、丞相缐真和兀鲁、忙兀二部军为右军；诸王塔察儿、太丑台和史天泽等将左军；诸王哈必赤将中军，合势进攻，斩阿里不哥的大将合丹火儿赤。塔察儿与合必赤分兵奋战，大破斡亦刺军。阿里不哥后军阿速台复至，再战，两军杀伤相当。阿里不哥北撤，忽必烈也还军。
察合台汗领地（兀鲁思）原由兀鲁忽乃妃子摄政。忽必烈即位后，即派遣察合台曾孙阿必失哈偕弟纳邻合丹去阿力麻里主持政事。二王行至途中被阿里不哥捕获。阿里不哥乃派察合台孙阿鲁忽（拜答儿子）去察合台汗地执政，以为声援，并防御在波斯的旭烈兀。阿里不哥远在漠北，从汉地北运的粮食断绝，给养缺乏，便派遣使者去察合台汗领地征敛。阿鲁忽杀使者，转而拥护忽必烈。
一二六二年秋，阿里不哥领兵往征阿鲁忽。阿鲁忽在普刺城迎战，斩阿里不哥大将哈刺不花。阿鲁忽得胜而回，不再戒备。阿里不哥的后军阿速台突然进至阿力麻里地区，阿鲁忽败走和田、喀什噶尔。阿里不哥军遂驻冬阿力麻里，阿鲁忽西走撤马尔罕。
阿里不哥进驻阿力麻里后大肆屠掠，阿鲁忽部下多被杀死。一二六四年春天，又值饥荒，人民死亡甚多。阿里不哥部下将士多逃至驻在阿尔泰地区的扎布汗河上的玉龙答失，共商归降忽必烈。阿里不哥众叛亲离，又怕阿鲁忽报复，走投无路，不得不投附忽必烈。
阿里不哥来见忽必烈请罪。忽必烈问他说：我和你谁对？阿里不哥回答说：在以前，是我对。今天，算你对。忽必烈命宗王和将领审讯拥立阿里不哥的诸臣，李鲁欢等被处死。忽必烈又分遣使者征询波斯旭烈兀、钦察别儿哥和察合台兀鲁思的阿鲁忽三王，决定赦免阿里不哥及阿速台罪。不久，阿里不哥病死。
三、西北汗国的分立
成吉思汗生前曾把蒙古的广阔领域，分封给朮赤、窝阔台、察合台，而由拖雷直接继承漠北的蒙古地区。随着汗位继承的变动和领域的扩展，到忽必烈建国时，西北实际形成为三个兀鲁思，并且越来越走上独立发展的道路。
钦察兀鲁思——成吉思汗长子朮赤封地，包括自海押立西至撒黑辛、不里阿耳之地。拔都西征，自钦察草原攻破斡罗思地。一二四一年窝阔台死后，拔都在钦察草原实际上已形成一个独立的兀鲁思。一二五六年，拔都病死，子撤儿塔、兀刺赤也先后死去。一二五七年拔都弟别儿哥继承汗位。在忽必烈争夺汗位的斗争中，别儿哥实际上是支持阿里不哥一方，而与支持忽必烈的旭烈兀不和。一二六二年以来，别儿哥与旭烈兀多次作战。阿里不哥败降后，忽必烈邀约亲信诸王在一二六七年集会。别儿哥在一二六五年病死。拔都弟忙哥帖木儿继承汗位。诸王大会未能举行。
察合台兀鲁思——察合台后王阿鲁忽西走撒马尔罕后，兵势复振，迫使进驻阿力麻里的阿里不哥归命于忽必烈。一二六四年，阿鲁忽死。兀鲁忽乃妃子以子木八刺沙继位。察合台曾孙八刺这时在忽必烈处。忽必烈命他与木八刺沙共同执政。八刺回去后废木八刺沙，自立为汗。
伊利兀鲁思——旭烈兀西征波斯，受蒙哥汗命统领阿姆河以西之地。在汗位争夺中，旭烈兀是忽必烈的支持者。一二六四年，旭烈兀在阿刺塔黑驻夏之地兴建宫殿，并任命诸子和将领为各地的长官，形成另一大兀鲁思。领地东起阿姆河，西与叙利亚和鲁木相接。一二六五年二月旭烈兀病死，子阿八哈继位。
窝阔台后王——窝阔台封地原在额敏河一带。蒙哥即位，窝阔台系后王遭到镇压，封地被分裂为几个独立的领地。窝阔台孙海部（合失之子）被封到海押立。海都支持阿里不哥，反对忽必烈。阿里不哥败后，又拒不入朝，逐渐成为忽必烈的一大敌对势力。
忽必烈在汉地称汗建国时，西北的钦察、察合台、伊利三个兀鲁思实际上已经分立，但是忽必烈和他以后的元朝皇帝，在名义上仍是蒙古大汗的继承者。各兀鲁思宗王推戴的君主，有权处理本国的大事，但须向元朝皇帝奏报。各兀鲁思汗位的继承也要得到元朝皇帝的认可。