因县境吉山“古不被兵”得名。据嘉庆《一统志》，吉州以“城有青山”得名。秦于今县城北15千米麦城村置北屈县，属河东郡。三国魏改属平阳郡。北魏神麚元年（428）废北屈县，改置禽昌郡。太武帝时于今县城东北30千米县底村置京军县，属汾州。太平真君二年（441）禽昌郡治徙今洪洞县境。正平二年（452）于京军县置五城郡，县属之。延兴四年（474）于今县城置定阳县、郡，隶东雍州，后属汾洲。
太和二十一年（497）改京军县为五城县，属五城郡。孝昌年间五城郡及定阳郡、县治均徙今尧都区境。永安初年于今县境置南汾州。东魏定阳县复归治今县城。北齐改南汾州为西汾州，北周改汾州。保定元年（561）析五城县地置大宁县，属汾州。隋开皇元年（581）改定阳郡为吉阳郡。三年废吉阳、五城2郡，置文城郡，2县属之。十六年改五城县为文城县，属文城郡，徙治今县城西北30千米文城镇；改汾州为耿州，文城郡属之。十八年（598）改定阳县为吉昌县，改耿州为汾州。二十年大宁县治徙今大宁县境。
大业三年（607）改汾州为文城郡。唐武德元年（618）复改为汾州。五年改南汾州，贞观八年（634）改慈州，天宝元年（742）改文城郡，乾元元年（758）复为慈州。天佑二年（905）改文城县为屈邑县。五代唐改屈邑县为文城县，改吉昌县为吉乡县（避李国昌讳），俱属慈州。宋熙宁五年（1072）废慈州，文城县废入吉乡县，属隰州大宁郡。元佑元年（1086）复置慈州。金天德三年（1151）改耿州，明昌元年（1190）改吉州，吉乡县俱属之。
蒙古至元二年（1265）吉乡县废入吉州，隶晋宁路。明隶平阳府。清雍正二年（1742）升直隶州。乾隆三十七年（1772）仍为散州，属平阳府。民国初年改吉县，属河东道，道废后直属省。1949年吉县属临汾专区。1954年属晋南专区。1958年废入乡宁县。1961年复置。1967年属晋南地区。1970年属临汾地区。2000年属地级临汾市。
1996年，吉县面积1777平方千米，人口约10万人。辖2个镇、9个乡：城关镇、屯里镇、东城乡、窑渠乡、中垛乡、曹井乡、明珠乡、柏山寺乡、王家原乡、兰家河乡、文城乡。县政府驻城关镇。
？年，增设壶口镇，辖文城乡的南村坡、中市、留村、存心、南垣5村，以及东城乡的陈家岭村。吉县辖3个镇（城关镇、屯里镇、壶口镇）、9个乡（兰家河乡、曹井乡、窑渠乡、明珠乡、文城乡、王家垣乡、东城乡、柏山寺乡、中垛乡）和一个地方国营林场（红旗林场），104个村委会，609个村民小组。
2000年第五次人口普查，吉县常住总人口97096人，其中，城关镇36452人，屯里镇5031人，壶口镇2380人，兰家河乡3896人，曹井乡3227人，窑曲乡3769人，明珠乡2868人，文城乡5233人，王家原乡4066人，东城乡5919人，柏山寺乡10954人，中垛乡13301人。
2001年区划调整后，全县辖辖3个镇、5个乡：吉昌镇、屯里镇、壶口镇、车城乡、文城乡、东城乡、柏山寺乡、中垛乡。县政府驻吉昌镇。
2010年第六次人口普查，吉县常住总人口106407人，其中，吉昌镇43389人，屯里镇12535人，壶口镇3876人，车城乡7964人，文城乡8711人，东城乡6212人，柏山寺乡11497人，中垛乡12223人。
2015年末，吉县辖3个镇、5个乡（合计8个），6个居委会、79个村委会（合计85个）。