春秋战国、秦汉时代，先后属东胡、匈奴、乌桓、鲜卑地。隋唐时期，为契丹游牧地。辽代为上京道乌州。 辽代，归属上京临潢府。金代，为泰州属北京路。元代为辽王耶律留哥的封地。明代，初为潢水兀良哈地泰宁卫领辖，明嘉靖二十五年（1546年），游牧于额尔古纳河、海拉尔河呼伦贝尔湖一带的阿鲁科尔沁部昆都伦岱青 元太祖成吉思汗之弟哈布图哈萨尔第十五世孙率部迁居，始名阿鲁科尔沁，意即北方弓箭手。明嘉靖四十三年至崇祯三年（1546－1630年），隶属于“北元”察哈尔部。于后金天聪四年（1630年）归顺后金。后金天聪八年（明崇祯七年，1634年）分封蒙古诸藩牧地于此地，阿鲁科尔沁部设前后两旗，崇德元年并为一旗，称阿鲁科尔沁旗。
清顺治元年（公元1644年）始建阿鲁科尔沁旗，至今沿用此名称。崇德四年（1639年），隶属于昭乌达盟，由热河都统节制。民国前期，隶属热河省。民国22年（1933年）7月，阿鲁科尔沁旗沦陷，划归伪满兴安西省。1942年，隶属伪满兴安总省。1945年8月15日日本侵略者战败投降，8月16日，阿鲁科尔沁旗得到解放，结束日本侵略者12年残酷统治。1945年10月，阿鲁科尔沁旗人民政府成立，隶属热河省。1946年6月10日，中共阿鲁科尔沁旗委员会成立。1949年5月20日，阿鲁科尔沁旗划归内蒙古自治区。1969年8月1日，随昭乌达盟划归辽宁省。1979年7月1日，划归内蒙古自治区。
1996年?，阿鲁科尔沁旗面积14555平方千米，人口28.6万人，其中蒙古族10.5万人，占36.6%，辖6镇11苏木10乡：天山镇、天山口镇、双胜镇、坤都镇、巴彦花镇、绍根镇、巴彦温都尔苏木、巴彦包勒格苏木、罕苏木苏木、柴达木苏木、道德苏木、扎嘎斯台苏木、宝力召苏木、巴拉奇如德苏木、呼和格日苏木、巴彦诺尔苏木、赛罕塔拉苏木、乌兰哈达乡、新民乡、巴彦包特乡、先锋乡、岗台乡、道伦百姓乡、平安地乡、白城子乡、荞麦他拉乡、东沙布尔台乡。旗政府驻天山镇。
2000年第五次人口普查，阿鲁科尔沁旗总人口297090人，其中：天山镇53605人，天山口镇13960人，双胜镇14648人，坤都镇9894人，巴彦花镇11219人，绍根镇8908人，养麦塔拉乡11960人，道伦百姓乡3447人，新民乡15686人，东沙布尔台乡10630人，乌兰哈达乡14970人，先锋乡15666人，肖台乡9421人，巴彦包特乡8185人，平安地乡9519人，白城子乡12213人，巴彦包勒格苏木7077人，巴彦温都尔苏木8752人，罕苏木苏木7518人，赛罕塔拉苏木6686人，宝力召苏木4149人，扎嘎斯台苏木7874人，道德苏木5097人，柴达木苏术7252人，巴拉奇如德苏木7928人，巴彦诺尔苏木9452人，呼和格日苏木1374人。
2000年，全旗面积14277平方千米，总人口84518户293255人。辖6个镇、10个乡、11个苏木：天山镇、天山口镇、坤都镇、双胜镇、巴彦花镇、绍根镇、道德苏木、柴达木苏木、巴拉奇如德苏木、巴彦诺尔苏木、巴彦温都尔苏木、巴彦包勒格苏木、罕苏木苏木、扎嘎斯台苏木、宝力召苏木、呼和格日苏木、赛罕塔拉苏木、巴彦包特乡、东沙布台乡、道伦百姓乡、新民乡、白城子乡、平安地乡、岗台乡、乌兰哈达乡、先锋乡、荞麦塔拉乡，其中牧区苏木（镇）13个，农区乡（镇）2个，半农半牧区乡（镇）12个，共有387个村（嘎查）。
2001年，撤销呼和格日苏木、道德苏木、宝力召苏木、扎嘎斯台苏木、道伦百姓乡、平安地乡，新设道德镇、扎嘎斯台镇。区划调整后，阿鲁科尔沁旗辖8个镇、8个乡、7个苏木：天山镇、天山口镇、双胜镇、坤都镇、巴彦花镇、绍根镇、扎嘎斯台镇、道德镇、荞麦塔拉乡、新民乡、东沙布台乡、乌兰哈达乡、先峰乡、岗台乡、巴彦包特乡、白城子乡、巴彦包勒格苏木、巴彦温都尔苏木、罕苏木苏木、赛汉塔拉苏木、柴达木苏木、巴拉奇如德苏木、巴彦诺尔苏木。
2001年，全旗总人口29.44万人，其中少数民族人口11.9万人，占人口总数的40.5%。辖23个乡镇苏木，其中牧区苏木镇11个，农区乡镇12个，共有386个嘎查村。2002年末，全旗总人口29.6万人；其中蒙古族占总人口的36.6％，汉族占60.9％。
2006年，阿鲁科尔沁旗将23个苏木乡镇（7个苏木、8个乡，8个镇）调整为11个苏木乡镇（3个苏木，2个乡，6个镇）：撤销岗台乡、荞麦塔拉乡，并入天山镇，总面积503.8平方千米，总人口32500人，辖32个行政村，镇政府驻地设在原天山镇政府所在地天山；撤销白城子乡，并入天山口镇，总面积490平方千米，总人口35500人，辖27个行政村，镇政府驻地设在原天山口镇政府所在地新风；撤销巴彦包特乡，并入双胜镇，总面积321.1平方千米，总人口22900人，辖16个行政村，镇政府驻地设在原双胜镇政府所在地双胜；撤销乌兰哈达乡，并入先锋乡，先锋乡总面积466.9平方千米，总人口31500人，辖25个行政村，乡政府驻地设在原先锋乡刁家段村；撤销东沙布尔台乡，并入巴彦花镇，总面积506.2平方千米，总人口25900人，辖22个行政村，镇政府驻地设在原巴彦花镇政府所在地五一；撤销巴彦诺尔苏木，并入巴拉奇如德苏木，总面积1006.4平方千米，总人口17200人，辖12个嘎查、5个行政村，苏木政府驻地设在原巴拉奇如德苏木政府所在地达兰花；撤销道德镇、柴达木苏木，并入绍根镇，总面积2099.9平方千米，总人口22100人，辖20个嘎查、3个行政村，镇政府驻地设在原绍根镇政府所在地绍根；撤销扎嘎斯台镇，并入赛罕塔拉苏木，总面积2304.6平方千米，总人口17500人，辖26个嘎查，苏木政府驻地设在原赛罕塔拉苏木查巴音塔拉嘎查；撤销巴彦温都尔苏木、巴彦包勒格苏木，并入罕苏木苏木，总面积4940.3平方千米，总人口23300人，辖30个嘎查，苏木政府驻地设在原罕苏木苏木政府所在地乌日都呼布；坤都镇、新民乡原建制及行政区域管辖范围不变；阿鲁科尔沁旗苏木乡镇行政区划调整后，辖天山镇、天山口镇、双胜镇、巴彦花镇、绍根镇、坤都镇、巴拉奇如德苏木、赛汉塔拉苏木、罕苏木苏木、先锋乡、新民乡和天山街道办事处。
2006年末，全旗总人口297335人，其中少数民族人口为123407人，占41.5%。2009年末，全旗总面积14555平方千米，总人口30.1万人，其中非农业人口5.42万人；少数民族12.7万人。
2012年，恢复扎嘎斯台镇、乌兰哈达乡、巴彦温都尔苏木；10月18日正式挂牌成立。调整后，全旗辖7个镇、3个乡、4个苏木：天山镇、天山口镇、双胜镇、坤都镇、巴彦花镇、绍根镇、扎嘎斯台镇、新民乡、先峰乡、罕苏木苏木、赛汉塔拉苏木、巴拉奇如德苏木、乌兰哈达乡、巴彦温都尔苏木。