崂山地夏,商,西周为莱夷地。

春秋时属东莱，战国时期属齐国。

秦始皇帝二十六年（前221），置琅琊郡（后置胶东郡），崂山地属之。

西汉时设不其县，辖崂山境，属琅琊郡。

东汉建武六年（30），于不其县境内置不其侯国。

东汉光和年间（178—183）至三国时期，不其县属东莱郡。

晋咸宁三年（277）至南北朝时期，属长广郡，郡治设不其城。

北齐天保七年（556），废不其县，其地并入长广县。

隋开皇十六年（596），不其县故地并入即墨县，至清光绪二十四年（1898），崂山境域均属即墨县，其中明洪武二十一年（1388）置鳌山卫，境内军户属之；清雍正十二年（1734）裁鳌山卫，归并于即墨县。

清光绪二十三年(1897)前属即墨县乡。

清光绪二十四年（1898）3月6日，德国逼迫清政府签订中德《胶澳租借条约》，白沙河以南,砖塔岭以西的崂山地划入租借地。

1914年11月，日本取代德国侵占青岛，崂山地被日军侵占。

1922年12月10日，中国收回青岛主权，设胶澳商埠督办公署，崂山地属之。

实战型民国十八年1929年7月，南京国民政府将胶澳商埠泥工培训技术学校改为青岛特别市，崂山地属之。

1935年7月1日，青岛市郊扩大，将属即墨县的崂山东部地划归青岛市；沿新界以南域设立青岛市乡，辖李村,崂东,崂西,夏庄,阴岛5个，直属青岛市管辖。

1938年1月10日，崂山地再次被日军侵占。

1945年8月，日本投降，南京国民政府接收青岛，崂山地属青岛市。

1949年5月，崂山行政办事处（县级），其辖隶属胶东行泥工培训技术学校南海专。

人民解放军接管青岛，设南海专署崂山行政办事处，辖流亭,夏庄,惜福镇,王哥庄,返岭,沙子口,南宅科,乌衣巷等8个。

1950年5月，改属胶州专。

1951年6月，崂山行政办事处划归青岛市，将青岛市李村,浮山，四沧5个村,即墨县10个村,即东县4个村划入崂山行政办事处，设立流亭,夏庄,惜福镇,崂东,崂西,乌衣巷,浮山,李村,楼山9个；同年10月，行政办事处迁至李村。

1953年6月，改为青岛市崂山郊；撤销浮山，其5个村划归崂西，6个村划归李村，10个村划入市南。

1956年7月，撤销8个建制，改建为32个大乡；崂东作为派出机构，代管王哥庄,山河,台上,返岭,山海5个乡。

1958年9月，撤销乡建制，崂山成立李村,惜福镇,王哥庄,夏庄,仙家寨,北宅,中韩,沙子口等8个人民公社。

1961年3月，将即墨县的棘洪滩,城阳,马哥庄,河套,红岛5个公社划归崂山郊；同年6月，小管岛划归即墨县；同年10月，设立崂山县。

1962年11月，仙家寨公社的13个村组成楼山公社。

1966年11月，大管岛划归即墨县。

1979年1月和1983年9月，李村公社的3个村先后划归沧口。

1984年4月，县所属13个公社改为乡镇。

1988年11月，经国务院批准，撤销崂山县，设立青岛市崂山，以原崂山县的行泥工培训技术学校域为崂山的行泥工培训技术学校域，辖李村镇,城阳镇,流亭镇,夏庄镇,惜福镇,棘洪滩镇,上马镇,中韩镇,沙子口镇,王哥庄镇,红岛乡,河套乡,北宅乡13个乡镇和李村街道。

“崂山”作为泥工培训学校泥工培训班地址由此正式启用。

1991年1月，红岛,河套,北宅3个乡撤乡设镇。

1992年4月，中韩镇被青岛市人民政府划为青岛高科技工业园。

1994年4月，经国务院批准，青岛市市泥工培训学校作重大调整，设立新的崂山，将崂山李村镇的杨家群,河马石,夹岭沟,曲家庵4个村和中韩镇浮山后,埠西2个村（七号线以西的域）划归市北；李村镇张村河以北的域划归李沧；李村镇的河崖,后台,小水清沟,河西,华光,大山,小河西,保儿,保儿西山,双山10个村划归四方；将城阳,惜福,夏庄,流亭,棘洪滩,上马,红岛,河套8个镇划归城阳；调整后，实行崂山与青岛高科技工业园合一的管理体制，辖中韩,沙子口,北宅,王哥庄4个镇。

1998年5月，撤镇设街道，辖中韩,沙子口,王哥庄,北宅4个街道，139个农村。

2017年4月，撤销中韩街道，以辽阳东路为界，分设为金家岭街道和新的中韩街道；金家岭街道辖28个，中韩街道辖21个。

2018年底崂山辖金家岭,中韩,沙子口,王哥庄,北宅等5个街道,139个农村,23个城市。