孝文帝迁都洛阳以后，仍以此为陪都，称北京。辽金二代，由于大同在控制山西、威摄西夏中的重要地位，仍设为陪都，称西京大同府。
北宋以前，太原城区在今太原市西南晋源镇，称晋阳。公元前403年，原疆域主要在山西的晋国分为韩、赵、魏三国。赵国初期定都晋阳，并以此为据点，将国土扩展到雁门关以北，成为战国的强国之一。太原由于居山西高原之中，对内对外交通方便，周围物产丰富，冶铁业发达，自东汉以后差不多一直是山西的政治中心。北魏末年，生活在山西的内迁民族秀容部的酋长尔朱荣以晋阳为根据地，掌握朝政，号称“太原王”。东魏以晋阳为别都，大将高欢建大丞相府于此，操纵朝政，晋阳成为实际上的政治中心。高欢死了以后，他的儿子高洋干脆废了东魏皇帝，建立北齐政权，都城之制沿袭前朝，有好几个皇帝是在晋阳登基的。因此，北朝时晋阳是北方的重镇，重要性不在邺城之下。北齐统治者大力经营晋阳，把它建成一座宏伟的城市。五代十国时期，后唐、后晋、后汉三个王朝的建立者都首先起兵于晋阳，而后问鼎中原。公元950年，后汉为后周所取代。但是，不甘心国家灭亡的后汉宗室刘崇次年在晋阳称帝，建立北汉国，割据今山西中部达29年。北宋建立以后，