曲阜，商为奄国都，周为鲁国都。公元前249年，楚灭鲁国后始设鲁县。隋初（584年），改为汶阳县。596年，为曲阜县，因“鲁城中有阜，逶曲长七八里”而得名（《史记正义》：“神农氏初都陈，后居曲阜，因城中有阜，委曲长七八里，故名。”）。627年曲阜并入泗水。634年恢复曲阜县，1012年改为仙源县，1129年又改为曲阜县
1945年底，曲阜、泗水合并为曲泗县，1946年春分置。1958年12月29日，经国务院批准，撤销滋阳县，并入曲阜县，驻地迁至兖州。1961年10月5日，经国务院批准，曲阜县驻地由兖州迁至城关；设立兖州县，以原滋阳县并入曲阜县的区域为其行政区域。1986年6月2日，经国务院批准撤销曲阜县，设立曲阜市。
1996年，曲阜市面积814平方千米，人口61万人，辖6个镇、7个乡：曲阜镇、吴村镇、姚村镇、陵城镇、小雪镇、南辛镇、书院乡、王庄乡、董庄乡、时庄乡、息陬乡、尼山乡、防山乡。市政府驻曲阜镇。1997年6月10日，撤销时庄乡、书院乡，分别设立时庄镇、书院镇（鲁政函民字[1997]27号）。至此，曲阜市辖8个镇、5个乡。
2000年第五次人口普查，曲阜市总人口625313人，其中：曲阜镇132221人，书院镇35080人，吴村镇36489人，姚村镇41557人，时庄镇51648人，陵城镇53775人，小雪镇43554人，南辛镇36820人，王庄乡47196人，董庄乡46415人，息陬乡46024人，尼山乡12722人，防山乡41812人。
2000年12月1日，山东省政府（鲁政函民字[2000]65号）批准：撤销曲阜镇，以原曲阜镇的行政区域设立鲁城街道办事处，办事处机关驻原曲阜镇政府驻地；撤销书院镇，以原书院镇的行政区域设立书院街道办事处，办事处机关驻原书院镇政府驻地；撤销尼山乡，将其行政区域并入南辛镇。至此，曲阜市辖2个街道、6个镇、4个乡：鲁城街道、书院街道、吴村镇、姚村镇、陵城镇、小雪镇、南辛镇、时庄镇、息陬乡、王庄乡、董庄乡、防山乡。（495个村、居委会，585个自然村）
2003年，将原有495个村、居委会合并为396个。2004年末，曲阜市总面积896平方千米，总人口637358人。辖2个街道、6个镇、4个乡：鲁城街道、书院街道、吴村镇、姚村镇、陵城镇、小雪镇、南辛镇、时庄镇、王庄乡、董庄乡、息陬乡、防山乡。共41个居委会、355个村委会，483个自然村（根据“济宁地名网”）。其中陵城镇、小雪镇、息陬乡由济宁市曲阜新区管理。
2007年末，全市总面积896平方千米。总人口64.08万人，其中城镇人口18.25万人。有少数民族30个，2500余人。辖2个街道、6个镇、4个乡：鲁城街道、书院街道、吴村镇、姚村镇、陵城镇、小雪镇、南辛镇、时庄镇、王庄乡、董庄乡、息陬乡、防山乡。共有392个行政村（居委会）。其中陵城镇、小雪镇、息陬乡由济宁市曲阜新区管理。
2008年5月，按照“管辖分离”的方式，将泗河东岸曲阜市时庄镇的田家村、河头村、焦家村三个行政村和陵城镇的粉店、牛厂两个自然村，划归兖州市酒仙桥街道管理。2008年末，全市总面积815平方千米，总人口63.73万人，其中城镇人口17.97万人。有少数民族30个，2500余人。共有392个行政村（居委会）。
2010年，撤销小雪镇、时庄镇，设立小雪街道、时庄街道；撤销王庄乡、息陬乡，设立王庄镇、息陬镇。调整后，全市辖4个街道、6个镇、2个乡：鲁城街道、书院街道、时庄街道、小雪街道、吴村镇、姚村镇、陵城镇、南辛镇、王庄镇、息陬镇、董庄乡、防山乡。其中小雪街道、陵城镇、息陬镇由济宁市曲阜新区管理。
2011年，撤销董庄乡、防山乡，设立石门山镇、防山镇；南辛镇更名为尼山镇。调整后，全市辖4个街道、8个镇：鲁城街道、书院街道、时庄街道、小雪街道、吴村镇、姚村镇、陵城镇、尼山镇、王庄镇、息陬镇、石门山镇、防山镇。其中小雪街道、陵城镇、息陬镇由济宁市曲阜新区管理。市政府驻鲁城街道。