夏,商,周属白翟地。

秦属上郡。

两汉属西河郡。

魏,晋属赫连大夏。

北魏,北周属上郡。

隋属胜州。

唐属麟州，称折塘关。

五代属府谷县。

宋时先为百胜寨，后为孤山寨，属府谷县。

元属府谷县。

明正统二年（1437年），在今孤山镇西十里的的军沟村设孤山堡，属府谷县。

明成化二年（1466年），移至今孤山戴家石畔脚底。

明成化十一年（1475年），迁至今孤山城内。

清时继称孤山堡，属府谷县。

民国改称天平镇，属府谷县。

1950年6月，设立孤山。

1958年9月，成立孤山公社。

1984年5月，改设为孤山乡。

1997年11月，撤乡建镇。