由即大汗位后，为了缓和内部矛盾，除派六弟旭烈兀率军西征外，又令四弟忽必烈继续南进。但蒙古军在进攻南宋的战争中，遇到南宋军队的顽强抵抗，蒙古统治者认识到灭亡南宋不是件轻而易举的事，便采取迂回包抄的战略。忽必烈于公元1253年从宁夏经甘肃入四川，然后，分兵三路进攻云南的大理国，灭掉了云南地方政权。大理国传国二十二世，共316年。
进攻南宋公元1257年，蒙古正式发动了对南宋的全面军事进攻。蒙哥亲率主力军自六盘山分路攻四川，命忽必烈攻鄂州（武昌），命兀良哈台自安南回师攻广西、湖南，北上与忽必烈在鄂州会师。蒙哥军一路进入四川后，沿途不断遭到南宋军民的顽强抗击。当时合州守将是知州王坚。他利用前任修筑的防御工事，和部将张珏坚守力战达五个月之久。
公元1259年7月，蒙哥亲自上阵督战，结果被宋军炮石射中，死于军中。蒙古军被迫撤退，合州之围始解。张珏继为合州守将，积粮练兵，与蒙古军长期对抗。公元1267年蒙古军数万来攻，又被击退。一直到公元1278年在重庆的保卫战中，张珏兵败被俘，自缢而死。
元朝建立当忽必烈听到蒙哥汗的死讯时，为了争夺汗位，急于北返。这时，南宋权相贾似道