西周初年周成王封其弟姬虞于唐，姬虞之子后来改国号为晋，这就是晋国的来源。到了春秋末期，当时的晋国出现了中行、范、智、魏、韩、赵等六卿专权的局面。六卿之一的赵简子为了扩张领地，争取战略优势，派其家臣董安于在晋水之阳建筑城池，这就是晋阳城。

公元前453年，掌握晋国大权的智伯联合韩、魏攻打赵襄子。赵襄子凭借晋阳城的高大坚固，誓死坚守，使智伯难以得手。后来智伯发现晋水从龙山而来绕城而过