东汉灵帝中平年（184），汝南（今河南）上蔡百姓迁到上高，始建上蔡县，为上高县之始，距今有1822年的历史。

晋太康元年（280），改名望蔡县。

唐中和年间初置上高镇，南唐升元初（937）废上高镇改置上高场，南唐保大十年（952）升场为县，始名上高县，宋元明清沿用。

从1968年2月起，隶属于宜春地，即现宜春市。

2003年，敖阳镇改设为敖阳街道办事处。

2008年4月，在敖山华侨农场范围内设立敖山镇。

2012年5月，新界埠乡撤乡设镇。

2013年11月，在墨山垦殖场范围内设立墨山乡。

2013年12月，蒙山乡撤乡设镇。

2021年3月设立锦阳街道办事处。