彭阳县得名于彭阳城。秦代置朝那县，属北地郡。汉代属安定郡。北魏神龟元年（518年）废朝那县，在阳晋川（今红河川）置黄石县（今沟口乡境内），为长城郡治。正光五年（524年）在茹河川置白池县（今城阳乡境内），大业二年（60年）改长城县为百泉县，属平凉郡。唐武德元年（618年）改平凉郡为原州。武德八年（625年）百泉县驻地由阳晋川迁至茹河川（今白阳镇境内）。宋咸平六年（1033年）在今县城置彭阳城（相当于县级军事设置），属镇戎军。彭阳之名由此始。
金大定二十二年（1182年）置东山县（今古城乡境内），属镇戎州。元代至元十年（1273年），改东山县为广安县。五年后升广安县为广安州，属开城府。明洪武二年（1369年），废广安州并入开城县，属陕西布政司平凉府。明洪武二年（1369年），废广安州并入开城县，属陕西布政司平凉府。成化十年（1474年）在今古城乡置广安州。弘治十五年（1502年）广安州并入固原州。民国二年（1913年），改固原州为固原县，属甘肃省泾源道，后又改属甘肃省平凉专区。
1936年，中国工农红军解放固原，在今县境北部置固北县，1938年撤销。1949年8月解放后至1983年10月，境内隶属于固原县。1983年10月，设立彭阳县，以固原县东部地区的彭阳、王洼两个区的15个公社为其行政区域。当时彭阳区辖彭阳、城阳、红河、沟口、新集、古城、川口等7个公社；王洼区辖王洼、草庙、孟塬、冯庄、小岔、罗洼、交岔、石岔等8个公社。不久，公社体制改革，各公社改称乡。
1985年1月，由草庙乡的何沟、米塬、牛湾、刘塬、王岔5个村组建为刘塬乡；（3月）由彭阳乡的崾岘、李岔、阳洼、中庄、丰台5个村组建为崾岘乡；12月（一说1987年1月），由王洼乡的北洼、路寨、李寨和城镇2个居委会组建为王洼镇；将彭阳乡的彭阳、海巴2村改为姚河村和城镇的2个居委会组建为白阳镇。全县辖白阳、王洼2镇和彭阳、城阳、红河、沟口、新集、古城、川口、王洼、草庙、孟塬、冯庄、小岔、罗洼、交岔、石岔、刘塬、崾岘等17乡。【以上主要根据《宁夏现代政区变迁沿革》（冯茂著，宁夏人民出版社，1998年9月第1版），部分有改动】
1985年12月?，罗洼乡将60个村民小组合并为31个，城阳乡将125个村民小组合并为103个。1986年6月，彭阳乡的彭阳、海巴2个村合并更名为姚河村，以所属刘沟、赵洼、郑沟、姚河、岭儿、河对面、小河口7个村民小组，归白阳镇管辖；同时，将原彭阳村的斩刀山、刘河、杨树峁3个村民小组，分别划入彭阳乡的南山、任湾、余沟3个村管辖；将冯庄乡雅石沟村窑庄村民小组的石堡梁划归王洼乡王洼村管辖，包山、南梁2个村民小组分别划归草庙乡的崾岘、包山2个村管辖；石岔乡由李洼村分设李岔村，李岔村辖李岔、前台、墩底、庙峁4个村民小组，李洼政村辖李洼、驮水沟、唐川、王堡、阳洼5个村民小组。
1988年9月，在中宁县大战场设立马家梁乡，辖白岗、七敦、马家梁、彭建、沙沟5个行政村。1993年6月，为设立宝中铁路彭阳火车站，固原行政公署决定将固原县开成乡五里山村划归彭阳县古城乡管辖。1997年5月，撤销古城乡，设立古城镇。2000年1月，彭阳县移民吊庄马家梁乡整体移交中宁县管辖。至此，彭阳县辖3个镇、16个乡。
2000年第五次人口普查，彭阳县常住总人口230981人，其中，白阳镇13821人，王洼镇4829人，古城镇23049人，新集乡17273人，沟口乡14714人，彭阳乡14460人，崾岘乡9694人，城阳乡20183人，红河乡21856人，川口乡7930人，王洼乡11097人，冯庄乡9874人，小岔乡6950人，石岔乡10351人，孟塬乡17173人，罗洼乡6824人，交岔乡5987人，草庙乡10300人，刘塬乡4616人。
2002年3月，县政府批准设立白阳镇郑河街社区；全县辖3个镇、16个乡，4个社区、156个行政村，831个村民小组。
2003年，王洼乡、石岔乡并入王洼镇，镇政府驻原王洼乡驻地；彭阳乡、崾岘乡并入白阳镇，镇政府驻原彭阳乡驻地；川口乡并入古城镇，镇政府驻原古城镇驻地；刘塬乡并入草庙乡，乡政府驻原草庙乡驻地；沟口乡并入新集乡，乡政府驻原新集乡驻地；红河乡、城阳乡、孟塬乡、冯庄乡、交岔乡、罗洼乡、小岔乡未作调整。区划调整后，全县辖3个镇、9个乡，4个社区、156个行政村，831个村民小组。
2010年第六次人口普查，彭阳县常住总人口200201人，其中，白阳镇52691人，王洼镇20300人，古城镇22259人，新集乡28095人，城阳乡15352人，红河乡17833人，冯庄乡7174人，小岔乡4317人，孟塬乡11365人，罗洼乡5008人，交岔乡4554人，草庙乡11253人。
2014年，自治区政府（宁政函〔2014〕98号）批复同意撤销红河乡，设立红河镇。调整后，全县辖4个镇、8个乡。