“锡林浩特”系蒙古语译音，意为“丘陵之城”。清顺治年间置浩济特左、右翼旗，康熙年间改阿巴嘎纳尔左、右翼旗。1949年，阿巴哈纳尔左翼旗划归锡林郭勒盟中部联合旗；阿巴哈纳尔右翼旗划归锡林郭勒盟西部联合旗。
1952年5月26日，经内蒙古自治区人民政府电准，中部和西部联合旗合并为锡林郭勒盟西部联合旗，原阿巴哈纳尔左翼旗庙由贝子爵管辖，故得名“贝子庙”。1953年9月15日，经锡林郭勒盟人民政府批准，“贝子庙”改称锡林浩特（相当于苏木级），统称西部联合旗锡林浩特人民政府。1956年7月3日，经国务院批准，将西部联合旗改称阿巴嘎旗；同年8月21日锡林浩特受锡林郭勒盟直接领导，苏木级建置不变。
1959年4月15日，锡林浩特升格为旗（县）级浩特，盟直接管辖。1963年，设立阿巴哈纳尔旗，以锡林浩特为中心将阿巴嘎旗和西乌珠穆沁旗的锡林浩特镇、阿尔山保力格公社、潮格乌拉牧场、军营牧场、一、二、六队、毕力格牧场等地区为阿巴哈纳尔旗的行政区域。1979年12月14日，阿巴哈纳尔旗的“哈”字为“嘎”字。1983年10月10日，经国务院批准，撤销阿巴嘎纳尔旗，改设锡林浩特市（县级）。
2000年，锡林浩特市辖5个街道、7个苏木：楚古兰街道、宝力根街道、希日塔拉街道、杭盖街道、额尔敦街道、图古日格苏木、达布希勒图苏木、城关苏木、伊利勒特苏木、巴彦宝拉格苏木、阿尔善宝拉格苏木、朝克乌拉苏木。
2000年第五次人口普查，锡林浩特市总人口173796人，其中：希日塔拉街道18291人，宝力根街道11140人，杭盖街道43935人，楚古兰街道30724人，额尔敦街道30921人，达布希勒特苏木1817人，城关苏木1687人，伊利勒特苏木2867人，巴彦宝拉格苏术1727人，阿尔善宝拉格苏木4494人，朝克乌拉苏木1500人，图古日格苏木1457人，锡林浩特煤矿7835人，毛登牧场1203人，锡市奶牛场904人，白音锡勒牧场9796人，白音库伦牧场2617人，食品公司贝力克牧场881人。
2000年，锡林浩特市总面积18750平方千米，其中市区建成区面积18.7平方千米。总人口17.7万人，其中城市人口14.8万人。辖6个街道、7个苏木、5个国有农牧场。
2001年区划调整后，全市辖6个街道、2个镇、4个苏木：希日塔拉街道、宝力根街道、杭盖街道、楚古兰街道、额尔敦街道、南郊街道、阿尔善宝拉格镇、巴彦锡勒镇、达布希勒图苏木、伊利勒特苏木、巴彦宝拉格苏木、朝克乌拉苏木。
2001年，全市总面积18750平方千米，其中市区建成面积18.7平方千米。总人口17.7万人，其中城市人口14.9万人。辖6个街道、2个镇、4个苏木、5个国有农牧场。
2006年，锡林浩特市将原有的6个苏木镇调整为3个和1个街道办事处，即宝力根苏木、朝克乌拉苏木和阿尔善宝拉格镇及巴彦锡勒街道；同时将达布希勒图苏木的希日塔拉嘎查、额日敦塔拉嘎查的一部分和伊利勒特苏木的伊利勒特嘎查、哈那乌拉嘎查、乌力吉得力格尔嘎查的一部分划入市区行政管辖区域。
2006年，全市总面积14785平方千米，其中市区建成区面积22平方千米。总人口17.7万人，其中城市人口14.9万人；蒙古族人口4.35万人，其他少数民族人口0.84万人。辖6个街道、1个镇、2个苏木。
2009年，全市面积14785平方千米，其中城市建成区面积34平方千米。人口20.5万人，其中城市人口17.8万人。
2012年，恢复巴彦宝拉格苏木。调整后，全市辖7个街道、1个镇、3个苏木：希日塔拉街道、宝力根街道、杭盖街道、楚古兰街道、额尔敦街道、南郊街道、巴彦查干街道、阿尔善宝拉格镇、宝力根苏木、朝克乌拉苏木、巴彦宝拉格苏木，以及巴彦锡勒办事处。市政府驻地希日塔拉街道。