遂昌县地西周前属越，秦属会稽太末县。东汉建安二十三年（218年）分太末南部地置遂昌县。三国吴赤乌二年（239年）更名平昌，晋太康元年（280年）复称遂昌。建县后先后属会稽郡、东阳郡、缙云郡、处州、衢州专署、金华地区，1963年后属丽水地区（现属地级丽水市）。1958年11月至1982年5月，松阳县并入。
1992年，遂昌县撤区扩镇并乡。撤销城关、新路湾、金竹、王村口、黄沙腰5个区建制，原31个乡镇（6个镇、25个乡）调整为20个乡镇（9个镇、11个乡）。 撤销三川乡、成屏乡，并入妙高镇，总面积192平方千米，辖50个村委会、18个居委会，总人口48010人，其中非农业人口23437人。 大柘镇总面积123平方千米，辖27个村委会、1个居委会，总人口14994人，其中非农业人口661人。 石练镇总面积109平方千米，辖22个村委会、2个居委会，总人口10789人，其中非农业人口339人。 垵口乡总面积163平方千米，辖13个村委会，总人口7350人，其中非农业人口168人。 撤销蕉川乡，并入新路湾镇，总面积136平方千米，辖21个村委会，总人口12314人，其中非农业人口418人。 撤销苏村乡，并入北界镇，总面积83平方千米，辖16个村委会，总人口9176人，其中非农业人口311人。 撤销梭溪乡，部分村并入应村乡，总面积83平方千米，辖17个村委会，总人口8984人，其中非农业人口134人。 三川畲族乡总面积79平方千米，辖14个村委会，总人口8455人，其中非农业人口149人。 撤销马头乡，并入云峰镇，总面积214平方千米，辖31个村委会，总人口21861人，其中非农业人口439人。 濂竹乡总面积55平方千米，辖13个村委会，总人口4652人，其中非农业人口69人。 撤销古楼乡、梭溪乡部分村，并入金竹乡，总面积140平方千米，辖29个村委会，总人口16401人，其中非农业人口619人。 高坪乡总面积48平方千米，辖9个村委会，总人口8526人，其中非农业人口91人。 撤销琴淤乡，并入湖山乡，总面积187平方千米，辖25个村委会，总人口11425人，其中非农业人口479人。 撤销大洞源乡，并入上定乡，更名为黄沙腰镇，总面积169平方千米，辖18个村委会，总人口8741人，其中非农业人口368人。 西畈乡总面积135平方千米，辖17个村委会，总人口4850人，其中非农业人口63人。 柘岱口乡总面积169平方千米，辖10个村委会，总人口7711人，其中非农业人口84人。 撤销关川乡、对正乡，并入王村口镇，总面积165平方千米，辖24个村委会、1个居委会，总人口10128人，其中非农业人口638人。 蔡源乡总面积56平方千米，辖9个村委会，总人口4436人，其中非农业人口69人。 焦滩乡总面积85平方千米，辖11个村委会，总人口3537人，其中非农业人口34人。 龙洋乡总面积148平方千米，辖13个村委会，总人口4551人，其中非农业人口91人。
1993年末，全县辖9个镇、11个乡，21个居民区、390个行政村，总人口22.47万人。
2000年第五次人口普查，遂昌县总人口207087人。其中：妙高镇55101人、云峰镇18235人、新路湾镇10231人、北界镇8382人、金竹镇13337人、大柘镇13389人、石练镇10139人、王村口镇8934人、黄沙腰镇7310人、三仁畲族乡7677人、濂竹乡3982人、应村乡8012人、高坪乡5025人、湖山乡9471人、蔡源乡3609人、焦滩乡2916人、龙洋乡4085人、柘岱口乡6897人、西畈乡3626人、垵口乡6729人。
2002年，因下山脱贫，新建金坤村。2002年末，遂昌县面积2539平方千米，人口22.54万人。辖9个镇、11个乡（其中1个民族乡）：妙高镇、云峰镇、北界镇、大柘镇、石练镇、金竹镇、黄沙腰镇、新路湾镇、王村口镇、焦滩乡、应村乡、湖山乡、濂竹乡、高坪乡、蔡源乡、龙洋乡、西畈乡、垵口乡、柘岱口乡、三仁畲族乡。共有7个社区、5个居民区、391个行政村。
2003年末，全县总面积2539平方千米，总人口22.55万人，辖9个镇、11个乡（其中1个民族乡），7个社区、5个居民区、389个行政村。2005年末，全县总人口22.74万人。
2009年，全县辖9个镇、11个乡（其中1个民族乡）：妙高镇、云峰镇、新路湾镇、北界镇、金竹镇、大柘镇、石练镇、王村口镇、黄沙腰镇、三仁畲族乡、濂竹乡、应村乡、高坪乡、湖山乡、蔡源乡、焦滩乡、龙洋乡、柘岱口乡、西畈乡、垵口乡。县政府驻妙高镇县前街1号。
2011年，遂昌县调整部分行政区划：撤销妙高镇、云峰镇建制，其行政区域改由遂昌县政府直辖（浙政函[2011]367号）。在遂昌县政府直辖区域设立妙高、云峰2个街道办事处（丽政函[2011]177号）。
2012年末，全县总人口23.24万人。辖2个街道、7个镇、11个乡（其中1个民族乡）：妙高街道、云峰街道、新路湾镇、北界镇、金竹镇、大柘镇、石练镇、王村口镇、黄沙腰镇、三仁畲族乡、濂竹乡、应村乡、高坪乡、湖山乡、蔡源乡、焦滩乡、龙洋乡、柘岱口乡、西畈乡、垵口乡。县政府驻妙高街道县前街1号。