江山镇在明代辖铁石乡表政里江山社的林邦,前村,石神岐等聚落，郭邦社的铜钵,郭山,林尾等聚落；涂潭社的平坑,上车,下车等聚落。

清代至民国初辖内江山社,外江山社。

1929年5月至1931年秋，成立江山苏维埃政府，辖铜砵,山塘,村美,前村,外山,新田,大湾,江山,畲背。

1932年4月至10月，成立万山苏维埃政府，辖江山和万安部分乡苏维埃政府。

1933年，民国龙岩县府下社江山，辖4个。

1937年设4个联保。

1941年改设铜江乡,东岭乡。

1944年合并铜江乡。

1949年11月龙岩县人民政府下社江山，辖5个村及万安的车背（斜背）村。

1957年设江山乡,万山公社。

1965年又合并称江山公社。

1984年7月改设江山乡。

2011年7月撤乡设镇（9月29日揭牌）。