忽必烈是成吉思汗小儿子拖雷的第二个儿子，窝阔台死后，他的哥哥蒙哥继承了汗位，任命忽必烈负责南方的军事。忽必烈重用儒臣，他每到一个地方都会访求当地的贤才。当时汉人虽然被蒙古人看不起，但如果让忽必烈知道哪个汉人有本事的话，他一定会亲自去拜访，将其请到自己府上任职。
忽必烈灭掉大理后，采纳了徐世隆等人的意见，下令部下不准乱杀人，此后他一直遵守这个誓言，很大程度上减轻了人民的抵抗。
蒙哥在攻打合州的时候受了重伤，很快就死了。当时忽必烈正在湖北一带作战，一听到蒙哥逝世的消息，马上和南宋签订和约，跑回去争夺汗位。这个时候，留守的小弟弟阿里不哥已经擅自征兵，企图夺取汗位。忽必烈在一些大臣和王爷的支持下登上了汗位，不久，阿里不哥也在部分大臣的支持下称汗，两派势力发生了严重冲突。忽必烈手中控制了汉地的人力物力和财力，比阿里不哥优势大得多，很快就将其击败。忽必烈以为阿里不哥从此失去了力量，就没有乘胜追击。一年后，阿里不哥卷土重来，在戈壁和忽必烈打了一仗，忽必烈虽然将其击败，但没有抓到他，也没有取得决定性的胜利。10天后，两军再次交战，没有分出胜负。当时两派势均力敌，但支持阿里不哥的察合台家族的首领阿鲁忽突然背叛了阿里不哥，倒向了忽必烈。阿里不哥被迫和阿鲁忽作战，但他不是阿鲁忽的对手，最后只好向忽必烈投降。忽必烈并没有杀他，只是把他囚禁了起来。
忽必烈消除了来自本国的威胁后，就把目光放在了南宋身上。在和阿里不哥作战的时候，一批汉人突然背叛了他，但很快就被镇压了下去。这次叛乱引起了忽必烈对汉人的猜忌，他再也不像以前那样对汉人言听计从，而是采取了一系列措施限制汉人的权力。他废除了汉人诸侯的世袭特权，并削弱汉人将领的兵权，在地方上实行军民分治。另一方面，他开始重用色目人，让他们和汉族官员互相牵制。
忽必烈虽然对汉人抱有疑心，但对于个别汉人他还是很信任的。比如汉人刘秉忠就很受他信任，忽必烈自立为皇帝和改国号为元都是刘秉忠提出来的。忽必烈建立元朝后，被称为元世祖，将大都定为国都。他设立了中书省作为政府的中枢机构，设枢密院主管大部分军务。元朝有个和前代不同的地方就是在各地设立了行中书省这个机构，简称行省，也就是今天“省”这一级行政单位的由来。
为了巩固蒙古贵族的统治，忽必烈还在大多数机构里面设立了达鲁花赤一职，由蒙古人或者色目人担任，是各机构的最高官员，掌握最后裁决的权力。
忽必烈在整顿好内务后，就开始大举入侵南宋，很快就灭掉南宋，统一了中国。
忽必烈不光攻打南宋，他也继承了先辈们开疆拓土的热情。忽必烈把高丽当成是进攻日本的跳板，多次命令高丽为其准备军粮和船只，引起了高丽的不满。忽必烈一不做二不休，发兵攻打高丽，很快就获得了胜利。他把高丽设为行省，但保留高丽国王的称号。一直到元朝末年，高丽也没有获得独立。
占领高丽后，忽必烈派人出使日本，但使者并没有能够到达日本。第二年，高丽国王派人代替蒙古使节向日本递交国书，日本政府拒不答复，此后又拒绝过一次忽必烈的使者。忽必烈生气了，决定发兵讨伐日本。第一次讨伐船队遇到台风，全军覆没，后两次也都遇到了台风，虽然有少量士兵登陆成功，但由于缺乏补给，都失败了，最后也没有能够攻下日本。
忽必烈把全国人民分成4个等级，第一等级是蒙古人；第二等级是色目人，是西域各国的人；第三等级是汉人，指原来在金朝统治下的各族人民；第四等级是南人，是原来南宋统治下的人民。前两个等级受到优待，而后两个等级则受到歧视。这种民族政策造成了很大的民族矛盾，为日后元朝的灭亡埋下了伏笔。
忽必烈在位35年，80岁那年去世。他结束了中国长达400多年的南北对峙的局面，是我国历史上出色的政治家。