余姚历史见于文献记载从虞舜开始，先后有“舜耕历山”、“禹藏秘图”之说。春秋时期余姚属越国，战国中期余姚成为楚国辖地。余姚得名，说法不一：一、舜后支庶所封之地，舜姓姚，故“余姚”(见《元和郡县图志》、《史记正义》)；二、夏少康封少子无余于会稽，以奉禹记，姚乃其属邑，故云余姚（见明万历《绍兴府志》、《余姚县志》)；三、“考余姚帝舜所生之地，故其江曰姚江，南有句余山、合山水之名为余姚”(见康熙新修余姚县志，乾隆《余姚县志》，黄宗羲《孟子师说·舜生诸冯章》和《四明山志》；四、“余姚”古越语。(见清李慈铭《越谩堂日记》)。“余”即“盐”，越人谓盐曰余(见《越绝书》)，又临姚江，故称余姚。
秦时置余姚县（一说汉置），属会稽郡。东汉建安五年（200）始筑县城，为浙东古县城之一。据《太平寰宇记》所载：唐初“余姚之境东包明州，西辖上虞，为越州巨镇”。隋开皇九年（589）余姚并入句章县，唐武德四年（621）置姚州。开元廿六年（738）余姚东北境白沙湖（白洋湖）、鸣鹤乡划入明州慈溪县。长庆元年（821）上虞县并入余姚县，次年又从余姚划出。宋为“望县”，“东南最名邑”。宋时余姚境域，东西宽60里，南北长260里，自余姚县城起，东至庆元（今宁波）府慈溪县，府以桐下湖为界；西至上虞县，以新桥为界；南至嵊县以梨洲山为界；北至海。此后历经元、明、清，余姚境域无多大变化。
元元贞元年（1295年）改为余姚州。明洪武二年（1369年）废州复县。1911年11月8日（清宣统三年九月十八日）余姚“光复”。1949年1月1日，国民党政府划余姚南部四明山区以及上虞、鄞县、嵊县、奉化县共15个乡为四明县；5月23日余姚解放；四明县撤销，各乡还属原各县。1950年余姚县庵东盐区划为县级特区，直属宁波专区，1953年7月庵东复为普通区，归余姚县管辖，1954年4月又划宁波专区直接管辖。1954年10月宁波专员公署《关于划建棉区县和机场特区及调整余姚、慈溪、镇海县界草案》，余姚县与慈溪县调整县界。余姚县大沽塘以北产棉区整体划给慈溪县，计有逍林区15个乡镇、浒山区16个乡镇、周朝区17个乡镇、周巷区5个乡镇、临山区4个乡镇、泗门区个8乡镇等共65个乡镇。慈溪县南部稻区、山区划给余姚县，计有城关区（慈城镇）10个乡镇、庄桥区2个乡镇、丈亭区9个乡镇、陆埠区12个乡镇、云山区9个乡镇等共42个乡镇。
1955年，余姚县乌山乡的虞家和金山庵2个自然村划给慈溪县；慈溪县新界乡所属塘北、东头庵跟2个自然村划给余姚历山乡。1956年4月，上虞县城关区（丰惠）永兴乡后陈、横岙等村划入余姚让贤乡，下管区四宅乡黄家庄、董郭乡大山岭顶自然村划归余姚大岚乡。余姚县大隐乡所属旭光、山前、星光、接胜、岐山、岐阳等11个农业生产合作社划归鄞县。1960年奉化县梨洲、北溪、平坑、唐田、茶塘、壶潭6个生产大队，上虞县的大山、龙潭、悬岩、溪山、阴地、糜山、戴王、长弄等8个生产大队，嵊县的棠溪、宓家山、杨湖等3个生产大队划给余姚县；余姚县慈城人民公社所辖的慈城镇、乍山、鞍山、妙山、狮东、裘市划归宁波市。1979年9月20日，省革委会决定调整慈溪与余姚的部分行政区划，余姚县龙南区所属的横河、龙南、石堰、彭桥、彭东、樟树、民主、桥头等8个公社划归慈溪县管辖；慈溪县泗门区所属泗门镇、曹娥、朗海、镇海、万圣、夹塘、湖北、横塘、临海、兰海、塘后等1镇10公社划归余姚县管辖。
1985年7月26日余姚撤县设市，由宁波市代管。设9区、8个镇、63个乡。1996年，余姚市面积1527平方千米，人口约82.7万人，辖20镇2乡：余姚镇、黄家埠镇、临山镇、泗门镇、小曹娥镇、朗霞镇、低塘镇、牟山镇、马渚镇、老方桥镇、丈亭镇、三七市镇、肖东镇、梁辉镇、陆埠镇、河姆渡镇、大隐镇、梁弄镇、大岚镇、四明山镇、洪山乡、鹿亭乡。市政府驻余姚镇。
2000年第五次人口普查，余姚市总人口852719人，其中：余姚镇226425人、临山镇41929人、黄家埠镇38574人、小曹娥镇28306人、泗门镇61334人、低塘镇64319人、朗霞镇39273人、马渚镇49111人、老方桥镇14704人、牟山镇19200人、丈亭镇30952人、三七市镇29493人、河姆渡镇21104人、肖东镇26537人、梁辉镇39843人、大隐镇8754人、陆埠镇33853人、粱弄镇30297人、大岚镇11433人、四明山镇9928人、洪山乡14153人、鹿亭乡13197人。
2001年9月20日，浙政函[2001]189号批复同意余姚市部分行政区划调整：撤销余姚镇、梁辉镇、肖东镇建制，改由余姚市政府直辖并设立东北、西北、东南、西南街道办事处，作为余姚市政府的派出机构：（1）东北街道办事处：管理原余姚镇姚江以北，中江、新建路以东的10村、11居，定址阳明东路401号。（2）西北街道办事处：管理原余姚镇姚江以北，中江、新建路以西的12村、20居，驻长安路22号（原余姚镇址）。（3）东南街道办事处：管理原余姚镇姚江以南，南雷路、中山河以东和原梁辉镇的20村、9居，驻山苑西路25号（原梁辉镇址）。（4）西南街道办事处：管理原余姚镇姚江以南、南雷路、中山河以西和原肖东镇的13村、8居，驻石婆桥中路39号（原肖东镇址）。调整后城区面积从原108平方千米增加到248.11平方千米，常住人口从18.8万人增加到29.27万人。9月26日，4个街道办事处正式挂牌成立。
2001年末，余姚市面积1346平方千米，总人口82.80万人，其中非农业人口15.64万人，辖4个街道、17个镇、2个乡，83个居委会、269个行政村，市政府驻西南街道。2002年末，余姚市面积1346平方千米，总人口82.60万人，其中非农业人口16.27万人，辖4个街道、17个镇、2个乡，59个居委会、269个行政村。
2003年4月29日，浙江省政府（浙政函[2003]67号）批复，同意余姚市部分行政区划调整：（1）撤销洪山乡建制，并入陆埠镇。调整后，陆埠镇辖20个村、2个居委会，镇政府驻地不变（钟山东路）。（2）撤销郎霞镇建制，大庙周、水阁周2个村并入泗门镇。调整后，泗门镇辖16个村、4个居委会，镇政府驻地不变（府前路18号）。（3）撤销低塘镇建制，和原郎霞镇的其余行政区域改由余姚市政府直辖。在此区域内设置郎霞、低塘2个街道办事处，作为余姚市政府的派出机构：①郎霞街道办事处：管理范围为原郎霞镇的其余行政区域（新南王、赵家、新新、熊家街、干家路、郎霞、杨家、天华、天中等9个村，郎霞居委会）和原低塘镇的部分行政区域（镇西、邵巷、西墟、龙王堂等4个村），共13个村、1个居委会，办事处驻朝阳路38号（原郎霞镇政府驻地）。②低塘街道办事处：管理范围为原低塘镇的其余行政区域（洋山、历山、黄湖、黄清堰、芦城、低塘、汤家闸、姆湖、镆剑山、郑巷、西郑巷等11个村，低塘、直河路、历山、郑巷等4个居委会），共11个村、4个居委会，办事处驻镇北路98号（原低塘镇政府驻地）。（4）调整西北街道办事处：撤销老方桥镇建制，将其行政区域并入西北街道办事处。调整后，西北街道办事处共管理17个村、9个居委会（社区），办事处驻地不变（长安路22号）。低塘、朗霞和东北、西北、东南、西南6个街道组成余姚中心城区，面积350平方千米，人口32.52万人。2003年末，余姚市面积1346平方千米，人口82.43万，其中非农业人口16.44万。辖6个街道、14个镇、1个乡，52个居委会、269个行政村。
2004年末，余姚市总面积1346平方千米，总人口82.59万人。辖6个街道、14个镇、1个乡：东北街道、西北街道、东南街道、西南街道、朗霞街道、低塘街道、小曹娥镇、泗门镇、临山镇、黄家埠镇、低塘镇、朗霞镇、马渚镇、牟山镇、丈亭镇、三七市镇、陆埠镇、河姆渡镇、梁弄镇、大岚镇、四明山镇、大隐镇、鹿亭乡。共有22个社区、31个居民区、268个行政村。
2005年11月15日，经省政府批准，原东北街道更名为凤山街道，西北街道更名为阳明街道，东南街道更名为梨洲街道，西南街道更名为兰江街道。12月21日，余姚市人民政府公布老城区四街道更名公告（2006年1月1日正式更名）。2005年末，余姚市户籍人口82.58万人。辖6个街道、14个镇、1个乡：凤山街道、阳明街道、梨洲街道、兰江街道、郎霞街道、低塘街道；临山镇、泗门镇、马渚镇、牟山镇、丈亭镇、梁弄镇、陆埠镇、大隐镇、大岚镇、河姆渡镇、四明山镇、小曹娥镇、黄家埠镇、三七市镇；鹿亭乡。共有52个居委会、265个村委会。市政府驻北兰江路1号。