西晋太康四年（283）建海虞县，南北朝时改称常熟县。元代升为常熟州，明洪武二年（1369）复称常熟县，清雍正四年（1726）分常熟、昭文两县，1911年又合并为常熟县。1950年，设立常熟市，以常熟县城虞山镇为其行政区域（苏南行署1950年10月24日报告备案）。1958年4月5日，国务院批准撤销常熟市，并入常熟县。1983年1月18日，国务院批准撤销常熟县，设立常熟市。
常熟地域内行政区域划分始于唐代。《吴地记》称：常熟“管乡二十四”，其后集又载“常熟县十二都”。宋代，常熟境内设9乡，乡下设都、里、村。元代改里为图。清代中期，易乡为场，以场统都，以都统图。清末民初，实行市乡制，常熟境内划为4市31乡。民国18年（1929年），县以下实行区乡制，以区统乡。民国23年，乡以下推行保甲制。其间，区乡划分几经变更。
1949年新中国成立后，重新调整区划。1957年撤区，由县直辖各乡。1958年各乡建办人民公社。1961年划出14个公社和常阴沙农场，归属新成立的沙洲县（即现张家港市）。1983年政社分离，仍为乡建制，乡以下为行政村。是年设1个市属镇、33个乡、3个场。1985年10月继福山撤乡建镇后，各乡陆续改建为镇。1992年12月，城郊、琴南两乡并入虞山镇。
1996年，常熟市面积1152平方千米（其中水面110平方千米），人口约104.4万人。辖32个镇：海虞镇、梅李镇、王市镇、徐市镇、碧溪镇、浒浦镇、唐市镇、大义镇、福山镇、练塘镇、支塘镇、珍门镇、周行镇、赵市镇、吴市镇、东张镇、沙家浜镇、古里镇、何市镇、董浜镇、白茆镇、任阳镇、谢桥镇、王庄镇、冶塘镇、张桥镇、辛庄镇、杨园镇、莫城镇、藕渠镇、兴隆镇、淼泉镇。市政府驻虞山镇。
1999年6月以后，先后又有梅李镇、赵市镇、珍门镇合并为梅李镇，王市镇、福山镇、周行镇以及市棉花原种场合并为海虞镇；碧溪镇、浒浦镇、吴市镇、东张镇合并为新港镇。2000年，常熟市辖24个镇：海虞镇、虞山镇、梅李镇、徐市镇、唐市镇、大义镇、练塘镇、支塘镇、东张镇、沙家浜镇、古里镇、何市镇、董浜镇、白茆镇、任阳镇、谢桥镇、王庄镇、冶塘镇、张桥镇、辛庄镇、莫城镇、淼泉镇、新港镇、杨园镇。
2000年第五次人口普查，常熟市总人口1239637人，其中：虞山镇342180人、梅李镇88477人、海虞镇98587人、新港镇84915人、徐市镇33941人、东张镇30723人、唐市镇24112人、古里镇36675人、沙家浜镇22450人、支塘镇33495人、何市镇26860人、董浜镇22340人、白茆镇26620人、任阳镇22264人、大义镇37261人、谢桥镇44913人、练塘镇41886人、王庄镇23896人、冶塘镇31211人、张桥镇29924人、辛庄镇27538人、杨园镇27325人、莫城镇50587人、淼泉镇24531人、虞山林场6926人。
2003年，古里镇与淼泉镇合并设立古里镇，镇政府驻古里；新港镇与东张镇合并设立新港镇，镇政府驻碧溪；支塘镇与任阳镇合并设立支塘镇，镇政府驻支塘；董浜镇与徐市镇合并设立董浜镇，镇政府驻董浜；辛庄镇与杨园镇合并设立辛庄镇，镇政府驻辛庄；支塘镇与何市镇合并设立支塘镇，镇政府驻支塘；沙家浜镇与唐市镇合并设立沙家浜镇，镇政府驻唐市；王庄镇与冶塘镇合并设立王庄镇，镇政府驻冶塘；练塘镇与张桥镇合并设立练塘镇，镇政府驻练塘；古里镇与白茆镇合并设立古里镇，镇政府驻古里；虞山、谢桥、莫城三镇合并设立虞山镇，镇政府驻虞山。2003年末，全市总户数为34万户，总人口为103.8万人，其中非农业人口50.8万人，人口密度为每平方千米821人。辖12个镇。
2004年，经省政府批复同意，原虞山镇、大义镇合并设立新的虞山镇。5月26日下午，市委、市政府召开大会，对两镇行政区划调整进行动员部署。经过此次行政区划调整，虞山镇行政区域面积达到214.76平方千米，人口达到36.99万人，辖41个居委会、80个村委会。
2004年末，常熟市总人口104.31万人。虞山镇面积214.76平方千米，人口373094人。梅李镇面积78.60平方千米，人口78615人。海虞镇面积108.66平方千米，人口123553人。新港镇面积113.79平方千米，人口127302人。古里镇面积116.66平方千米，人口96311人。沙家浜面积80.40平方千米，人口52716人。支塘镇面积128.96平方千米，人口81956人。董浜镇面积62.61平方千米，人口53788人。练塘镇面积79.90平方千米，人口57761人。王庄镇面积67.40平方千米，人口55300人。辛庄镇面积69.89平方千米，人口48706人。（数据来源于《江苏省统计年鉴》）
2005年，撤销常熟市练塘镇，将原练塘镇所辖张家桥、张桥2个居委会和东旺等7个村委会划归辛庄镇管辖，镇政府驻辛庄；将原练塘镇所辖练塘居委会和常兴等8个村委会划归王庄镇管辖，并将王庄镇更名为尚湖镇，镇政府驻冶塘。尚湖镇行政区域面积103平方千米，人口8.3万人，辖3个居委会、24个村委会。2008年6月，经苏州市政府批准，新港镇更名为碧溪镇。调整后，全市辖10个镇：虞山镇、海虞镇、碧溪镇、辛庄镇、尚湖镇、梅李镇、支塘镇、董浜镇、古里镇、沙家浜镇。
2009年末，常熟市总面积1094平方千米、总人口33.69万户、106.64万人。其中：虞山镇面积214.76平方千米、人口375179人，梅李镇面积80.84平方千米、人口114549人，海虞镇面积108.66平方千米、人口138138人，碧溪镇面积97.79平方千米、人口140767人，古里镇面积116.66平方千米、人口103972人，沙家浜镇面积80.4平方千米、人口75818人，支塘镇面积128.96平方千米、人口105571人，董浜镇面积62.61平方千米、人口67080人，辛庄镇面积104.26平方千米、人口95667人，尚湖镇面积97.63平方千米、人口120252人。（数据来源于《江苏省统计年鉴》）
2010年2月，江苏省批准将尚湖镇建华村划归虞山镇管辖。2010年6月，江苏省政府批准同意撤销碧溪镇，设立碧溪街道。2011年11月，江苏省政府批准同意将虞山镇湖东居委会和苏锋村、东渔村、昆承村，以及古里镇小康村和坞坵村的四环路连接线以西部分区域划出，合并设立东南街道。调整后，全市辖2个街道、9个镇：碧溪街道、东南街道、虞山镇、梅李镇、海虞镇、古里镇、沙家浜镇、支塘镇、董浜镇、尚湖镇、辛庄镇。市政府驻虞山镇。