（以下资料由G.W.整理自《巨野县志》、《山东省情资料库》及其他政府网站。本站转载时略有改动）
西周春秋时期，巨野为武城地，鲁国西境。公元前475年，巨野属宋国，至公元前286年，改属齐国。公元前220年，置昌邑县（今昌邑集一带），属砀郡。西汉初期，巨野县境内有昌邑县，西汉中期增置巨野县和乘氏县。昌邑县：始建于秦，前汉为昌邑王国、山阳郡，后汉兖州刺史皆治此，治所在今巨野县昌邑集，所辖包括金乡、巨野、成武、单县4个县的边界地区。乘氏县：汉置侯邑。汉景帝中元6年封梁孝王少子买，汉和帝封梁商为乘氏侯。治所在今龙固镇西南甘泉寺一带，其辖区包括巨野东南、菏泽东南、定陶东北部。
公元前144年（汉景帝中元6年），昌邑、巨野属山阳国。公元前140年（汉武帝建元元年），改山阳国为山阳郡。昌邑、巨野两县属山阳郡，乘氏县属济阴郡。公元前97年（汉武帝天汉4年），改山阳郡为昌邑国，昌邑、巨野为其属县。公元前73年（汉宣帝本始元年），撤销昌邑国，复为山阳郡，昌邑、巨野仍为其属。公元9年（新莽始建国元年），撤销山阳郡，改为巨野郡，以巨野县城为治所。公元25年（汉光武帝刘秀建武元年），撤销巨野郡，恢复山阳郡，治所在昌邑，巨野、昌邑两县兼属山阳郡和兖州。乘氏县仍属济阴郡。公元192年（东汉初平3年），曹操任兖州牧，以昌邑为治所。
三国时期，巨野、昌邑两县属山阳郡，乘氏县属济阴郡。公元265年（晋武帝秦始元年），改山阳郡为高平国，治所在昌邑，巨野、昌邑为属县，乘氏县仍属济阴郡。南北朝时期，巨野县后为多方割据势力统辖。南朝刘宋改高平国为高平郡。公元518年（北魏孝明帝神龟元年），分高平郡，置任城郡。在此期间，巨野县先属南朝高平郡，后属北魏任城郡。
公元420年（南朝刘宋永初年间），撤销昌邑县，并入金乡县。公元488年（北魏太和12年），乘氏县移置今菏泽市。北齐撤销巨野县。隋文帝开皇年间，巨野东北部属郓州东平郡，巨野西南部属曹州济阴郡，巨野东南部昌邑一带属金乡县。开皇16年，恢复巨野县和昌邑县。公元606年（隋炀帝大业2年）撤销乘氏县，并入巨野县；撤销昌邑县，并入金乡县。
公元619年（唐高祖武德2年），巨野县属郓州东平郡。公元621年（唐高祖武德4年），在巨野县城置麟州，复置乘氏县为属县。公元622年（唐高祖武德5年），撤销麟州，复置昌邑县，巨野、昌邑两县属戴州（治所金乡）。公元625年（唐高祖武德8年），撤销昌邑县，并入金乡县。公元643年（贞观17年），巨野县改属河南道郓州。后梁、后唐、后晋、后汉四代，巨野县仍属郓州。公元952年（后周太祖广顺2年），移济州于巨野县城，并辖郓城、任城、金乡为属县。
宋朝，巨野县属济州。公元997年（太祖至道3年），属京东路。公元1074年（神宗熙宁7年），改属京东西路。金徙济州治任城县，属山东西路。公元1147年（南宋绍兴17年，金皇统7年），析任城县以西、巨野县以东地区置县，治所设在山口镇。借春秋时鲁哀公14年春“西狩获麟”的故事，取其祥瑞之意，定名为嘉祥县，时属山东西路济州。公元1150年，黄河大决，淹没巨野，撤销巨野县。
公元1269年（蒙古至元6年），恢复巨野县，迁往任城的济州，还治巨野县。公元1271年（元至元8年），升州为济宁府。公元1273年（元至元9年），移府治于任城，移州治于巨野，是年末仍以府治于巨野，复以州治于任城。公元1279年（元至元16年），升府为济宁路，辖兖、济、单三州。公元1348年（元至正8年），黄河大决，淹没巨野城，迁济宁路于济州（任城），迁县治于城北邢家务。
明洪武元年（1368年），设济宁府于任城，巨野为属县，隶属于山东布政使司。1374年，黄水淹没巨野，至洪武九年消退，县治由邢家务迁入巨野，重建县公署。1385年，兖州升为府，济宁降为州，巨野县属兖州府济宁州。清朝，巨野县属兖沂曹济道、兖州府、济宁州。雍正二年（1724年），改济宁州为济宁直隶州，巨野为属县。雍正八年（1730年），改属曹州直隶州。雍正十三年（1735年），改曹州直隶州为曹州府，巨野仍为属县。
民国元年（1912年），巨野县属山东省济宁道。1928年废除道制，巨野县直属山东省政府。1929年，巨野县属山东省第二行政督察专员公署。1938年，巨野县属山东省第二行政督察专员公署第十行署。1946年，巨野县属第二行署。1938年12月9日，日军侵占巨野城。1939年春，建立日伪县政府。1939年5月，建立中共郓巨工委和抗日县政府，归中共运西专署领导。11月建立中共巨野工委和巨野县抗日政府，属运西专署。1940年11月，属鲁西二专署。1941年2月，属巨、菏、金、嘉、成5县联合办事处。1943年属晋鲁豫17专署。1944年6月，属冀鲁豫11专署，同时还有巨菏县，于1941年建立，1942年12月撤销。金巨县，于1943年9月建立，1945年3月撤销。郓巨县，1944年12月建立。巨南县，1945年3月建立。
1946年6月8日，冀鲁豫行署决定将抗日县政府改为民主县政府。解放战争期间，巨野境内有巨野、郓巨、巨南三个民主县政府，其隶属变革为：（1）巨野县1945年9月至1946年1月，属冀鲁豫11专署（湖西）。1946年1月至1946年3月，属冀鲁豫7专署（鲁西南）。1946年3月至1948年5月，属冀鲁豫2专署（运西）。1948年5月至1949年8月，属冀鲁豫7专署（运西）。（2）郓巨县1945年9月至1946年2月，属冀鲁豫8专署（运西）。1946年2月至1949年8月属冀鲁豫2专署（临河）。（3）巨南县1946年2月建立，至1949年8月，先后属冀鲁豫11专署（湖西）和3专署（湖西）。
1949年8月20日，平原省人民政府成立。巨野县隶属平原省湖西专区。1949年9月，巨南、郓巨两县撤销。1952年12月撤销平原省，巨野县隶属山东省湖西专区。1953年7月20日（县志一说1953年8月20日），撤销湖西专区，巨野县改属山东省菏泽专署。1958年10月，撤销菏泽专署，巨野县改属济宁专署。1959年6月，恢复菏泽专署，巨野县复属菏泽专署。1967年至1977年，巨野县属菏泽地区“革命委员会”所辖。1978年，撤销各级“革命委员会”，巨野县改属菏泽地区行政公署。2000年6月23日，设立地级菏泽市。巨野县属菏泽市管辖。