春秋时属越国。秦赢政二十五年（公元前222年）建县名乌伤，属会稽郡。传说秦时有个颜乌，事亲至孝，父死后负土筑坟，一群乌鸦衔土相助，结果乌鸦嘴喙皆伤，故称乌伤县。新莽时（公元9年）改乌孝县。东汉建武初复称乌伤。曾为会稽西部都尉治。初平三年（192年）分割西部辖境，设置长山县（即后之金华县）。三国吴赤乌八年（245年）分南境，置永康县。宝鼎元年（公元266年），分会稽郡西部设东阳郡（郡治长山，即今金华市区），乌伤县属东阳郡。
唐武德四年（621）东阳郡改称婺州，废乌伤县设绸州，并分置乌孝、华川二县。稠州以稠山(德胜岩)而得名。华川又名绣川，以绣湖得名。武德七年（624年）废稠州，合乌孝、华川为义乌县，属婺州。义乌其义与乌伤、乌孝同。垂拱二年（686年）析义乌县东境设东阳县。天宝十三年（754年），又分县境北部及兰溪、富阳各一部分，设浦阳县（今浦江县）。元代，义乌隶属婺州路总管府。至正十八年（1358年）朱元璋部攻取婺州，改婺州路为宁越府。至正二十年改名金华府，义乌隶属金华府。清代仍旧。
民国初，撤销府一级建制，义乌县直属于省。民国三年（1914年）以道代府，义乌属金华道。1927年废道制改为省县两级制，义乌直属浙江省。1935年，省下设行政督察专员公署，义乌属第四区。1947年属第五区，1948年4月属第三区，7月属第八区。1949年5月8日义乌解放。新中国成立后，义乌属金华专区。1959年浦江并入义乌，1967年仍析出。1970年属金华地区，1985年7月属金华市。1988年7月，撤销义乌县，设立义乌市（县级）。
1983年，改公社为乡；同时，稠城公社并入稠城镇，佛堂公社并入佛堂镇；吴店乡分设下宅乡，溪华乡分设黄山乡，夏演乡分设何里乡，联合乡分设路东乡；同是年12月杨梅岗农垦场改为杨梅岗乡。1985年，全县设5个区、2个县属建制镇，47个乡。1986年12月，苏溪、廿三里、义亭、上溪4个乡撤乡建镇。1987年4月，楂林、大陈、后宅、赤岸4个乡撤乡建镇。1989年3月，吴店乡撤乡建镇。至1992年4月，全市有5个区、2个市直属镇，9个乡级镇、38个乡。
1992年5月撤区扩镇并乡，撤销城阳、义亭、佛堂、苏溪、义东5个区公所，49个镇乡（镇11、乡38）调整为23个镇乡（镇12、乡11）：柳青、前洪、桥东、杨村、福田5乡并入稠城镇，王阡、畈田朱、杭畴3个乡并入义亭镇，溪华、黄山2个乡并入上溪镇，下宅乡并入吴店镇，东朱乡并入赤岸镇，新新、巧溪、杨梅岗3乡并入苏溪镇，何里乡并入夏演乡，合作、王宅、田心3个乡并入佛堂镇，华溪乡并入廿三里镇，湖门、塘李2个乡并入后宅镇，尚经乡并入下骆宅乡；尚阳乡与毛店乡合并称毛店镇，联合、路东、前店3个乡合并称荷叶塘乡；平畴乡改称青口乡。1994年下骆宅乡撤乡建镇。
1996年，义乌市面积1102.8平方千米，人口约64.4万人。辖13镇10乡：稠城镇、后宅镇、佛堂镇、赤岸镇、毛店镇、义亭镇、上溪镇、吴店镇、苏溪镇、大陈镇、楂林镇、下骆宅镇、廿三里镇、夏演乡、官塘乡、东塘乡、荷叶塘乡、青口乡、徐村乡、江湾乡、东河乡、塔山乡、倍磊乡。市政府驻稠城镇。
1997年徐村、荷叶塘2乡撤乡建镇，徐村乡改称徐江镇。1999年，稠城镇原杨村乡与官塘、江湾2乡合并建稠江镇，稠城镇的原桥东乡与青口乡、徐江镇合并建江东镇。至此，义乌市辖16个镇、5个乡。经1999年勘界后测定，义乌境域总面积为1105.46平方千米。
2000年第五次人口普查，义乌市总人口912670人。其中：稠城镇234827人，江东镇97272人，稠江镇81578人，后宅镇49324人，佛堂镇63263人，赤岸镇16371人，毛店镇15390人，义亭镇46510人，上溪镇28937人，吴店镇15857人，荷叶塘镇24508人，苏溪镇49699人，大陈镇37835人，楂林镇15231人，廿三里镇50157人，下骆宅镇23495人，东河乡17111人，夏演乡19484人，东塘乡8184人，塔山乡7406人，倍磊乡10231人。
2001年2月23日，浙政函[2001]26号批复同意义乌市行政区划调整： 撤销大陈镇、楂林镇、东塘乡建制，以其行政区域和苏溪镇群拥、立山黄、新和3个村的行政区域设立新的大陈镇，辖48个村、1个居委会，镇政府驻春林村。 撤销苏溪镇、荷叶塘镇，以原苏溪镇（不含群拥、立山黄、新和3个村）的行政区域和原荷叶塘镇的部分行政区域（里宅、高岭、木城、石塘、下陈、新厅、上甘、范家、畈田、东宅、张浒、上西陶、后山坞、塘头应、东湖门、东殿前、上山下、上大路、楼下张、西山下、东陶、东洪22个村）设立新的苏溪镇，辖68个村、2个居委会，镇政府驻镇前街。 撤销佛堂镇、倍磊乡、塔山乡建制，以其行政区域设立新的佛堂镇，辖106个村、3个居委会，镇政府驻大成路。 撤销赤岸镇、毛店镇建制，以其行政区域设立新的赤岸镇，辖66个村、1个居委会，镇政府驻丹溪路。 撤销上溪镇、吴店镇建制，以其行政区域设立新的上溪镇，辖76个村、2个居委会，镇政府驻兴华路。 撤销东河乡、夏演乡建制，以其行政区域和稠江镇的何泮山村的行政区域设立城西镇，辖47个村，镇政府驻益公山村。 撤销稠城镇、江东镇、稠江镇、后宅镇、下骆宅镇建制，其行政区域和原荷叶塘镇的部分行政区域（不含上述里宅等22个村）改由义乌市直辖。同时，设立义乌市政府稠城等5个街道办事处。 稠城街道办事处以原稠城镇的部分行政区域（长春、赵宅、兴中、王牌、西力、共和、联平、大王、湖塘、宗宅、西张、殿山、十里牌、大塘下、抱湖塘、竹佳里、寺后盛、思古塘、畈田王、草塘沿20个村和除楼店、铁西、幸福、凤凰山外的34个居委会）、原下骆宅镇的行政区域和原荷叶塘镇的部分行政区域（不含上述里宅等22个村）为其行政管理范围，辖69个村、34个居委会，办事处驻共和村。 北苑街道办事处以原稠城镇的部分地域范围（除上述长春等20个村外的35个村和楼店、铁西、幸福等3个居委会）为其行政管理范围，辖35个村、3个居委会，驻丹溪北路。 江东街道办事处以原江东镇的地域范围为其行政管理范围，辖61个村、7个居委会，驻江东路。 稠江街道办事处以原稠江镇（不含何泮山村）的行政区域和原稠城镇凤凰山居委会的地域范围为其行政管理范围，辖45个村、6个居委会，驻南环路和稠义路交叉口。 后宅街道办事处以原后宅镇的行政区域为其行政管理范围，辖57个村、5个居委会，驻义北大道。 行政区划调整后，义乌市辖大陈镇、苏溪镇、廿三里镇、佛堂镇、赤岸镇、上溪镇、城西镇、义亭镇8个镇，和稠城、北苑、江东、稠江、后宅5个街道办事处。 3月20日，义乌市政府正式宣布，经浙江省政府批准，撤销原有的21个乡镇，在中心城区设立5个街道办事处，同时扩并和新设佛堂、苏溪、上溪、廿三里、大陈、义亭、城西、赤岸8个镇。
2002年，义乌市辖5个街道、8个镇：稠城街道、后宅街道、北苑街道、稠江街道、江东街道、城西镇、上溪镇、义亭镇、佛堂镇、赤岸镇、苏溪镇、大陈镇、廿三里镇，共有22个社区、50个居民区、751个行政村。
2003年11月17日，浙政函[2003]187号批复，同意义乌市部分行政区划调整：撤销廿三里镇、城西镇建制，其行政区域改由义乌市政府直辖。在此范围内设立廿三里、城西2个街道办事处，具体如下：①廿三里街道：以原廿三里镇行政区域为管理范围，管理8个居民区、35个行政村，办事处驻中新街（原廿三里镇政府驻地）；②城西街道：以原城西镇行政区域为管理范围，管理47个行政村，办事处驻益公山（原城西镇政府驻地）。
2003年全市总面积1105.46平方千米，其中城区面积45平方千米。2004年，市国土资源局应用民政部门新行政区划勘界成果，测定义乌境域总面积为1104.53平方千米。
2004年末，义乌市面积1103平方千米，人口密度624人/平方千米，辖7个街道、6个镇，30个社区、61个居委区、732个行政村。2005年末面积1103平方千米，人口69.74万人。2006年末辖7个街道、6个镇，32个社区、60个居民区、728个行政村。
2006年末总人口70.67万人。2007年末总人口716285人。2008年末总人口72.39万人。2009年末总人口730183人，总面积1105平方千米，其中建成区83平方千米，城市建设用地77.3平方千米。
2010年末，全市总面积1105平方千米，其中建成区90平方千米，城市建设用地81.57平方千米。总人口739838人。登记办证的外来人口共1433154人（实际在册1336159人）。辖7个街道、6个镇，共有36个城市社区、4个农村社区、51个居委会（其中6个挂名居委会）、716个行政村【注：赤岸镇的赤岸，义亭的重阳，上溪的镇东、镇中，后宅的新凉亭、德胜，城西的龙山、佛堂的大成8个居委会（社区）只是落实管理集体户口，没有正式成立班子；湖山殿下、胡宅2个社区仍按行政村体制运行】。
2012年末，全市总面积1105平方千米，总人口75.33万人。辖7个街道、6个镇：稠城街道、江东街道、稠江街道、北苑街道、后宅街道、城西街道、廿三里街道、佛堂镇、赤岸镇、义亭镇、上溪镇、苏溪镇、大陈镇。市政府驻稠城街道县前街21号。
2014年9月29日，省政府批复同意（浙政函[2014]104号）调整稠城街道管辖范围，增设福田街道。调整后，稠城街道辖通惠、胜利、江滨、雪峰、词林、向阳、下车门、市场、孝子祠、绣湖、宾王、银苑、车站13个社区，办事处驻宾王路223号；福田街道辖诚信、长春、福田3个社区和东前王、屋基、西罗店、十里牌、联平、宗宅、湖塘、西张、大王、西力、抱湖塘、王牌、思古塘、尚经、东象山、官端前、花园下、全宅、罗店、云溪、洛店、江村、六石塘、立碑塘、齐街、下西陶、前上周、荷叶塘、下兆、西界、过溪楼、森屋、堂阁、溪前、祖科塘、下沈、殿前、洪界、东大鲁、毛竹园、前店、下骆宅、江北下朱、楼西塘、东傅宅、白塘畈、清塘、八脚坎、白岸头、下华店、前黄宅、东岗山、下娄店、杏园、洋塘桥头、九如堂、新塘下、麻车、田畈59个行政村，办事处驻江村。