滕州素有“滕小国”之称。

滕始于黄帝，因境内泉水“腾涌”而得名。

周灭商后，武王封其异母弟叔绣于滕，乃称“滕国”。

秦统一六国后，废分封置郡县，于今滕境置滕县,薛县。

汉初，高祖撤小邾置蕃县，西晋仍袭汉制。

金大定二十二年（1182），升滕阳郡为滕阳州。

大定二十四年（1184），改滕阳州为滕州（州治滕县），辖滕,沛,邹县三县和陶阳镇。

明初（1369）撤销滕州。

建国初，曾为滕县专署驻地。

1953年撤销滕县专署，滕县改属济宁专署。

1979改属枣庄市至今。

1988年3月，经国务院批准，撤销滕县，建立县级滕州市。