合山镇始建于北宋年间（960年—1127年）。

清末，属阳江县长乐乡乔马都乔马一图,平乐乡北惯都北惯一,二图。

民国初期，属第三。

民国二十六年（1937年），属第二。

1953年5月，改为第五。

1957年2月，撤并乡，称合山乡。

1958年11月，与北惯乡合并成立幸福公社；同年12月，改称合山公社。

1959年10月，分出北惯公社。

1961年5月，改为合山，辖合山,那龙,田畔,北惯,那石公社。

1963年，撤分为合山,北惯公社。

1979年3月，分出田畔公社。

1983年11月，改公社为合山。

1987年2月，改为合山镇。

1988年1月至1991年6月，合山镇属阳江市阳东管辖，1991年7月，属阳东县管辖。