黑山明代名镇远堡，清初又叫小河山，小黑山。县城东北隅有小黑山，古上帝庙建于其颠。该山虽不甚高，但登临其上，远望群山，近瞻县街，如在足下。黑山之名系依此山而得。战国时期属燕国辽东郡地。秦统一中国后，黑山境仍属于辽东郡。西汉时属幽州刺支部辽东郡。东汉属辽东属国，三国时属幽州昌黎郡（今义县）。西晋时属平州（今辽阳）昌黎郡（今义县）。东晋十六国前燕、前秦、后燕仍属平州昌黎郡。南北朝时为营州地。隋属燕郡（今义县）。唐属安东都护府。辽属东京道显州奉先军。
金属北京路广宁府，大定二十九年（1189）置望平县。元属广宁府路，境内设望平县。明属广宁卫。满清入关后，本境分属广宁县及新民县地。光绪二十八年（1902年）始在广宁、新民分治，置官设县，名为镇安县（并于小三家子设镇安分县），属新民厅。1914年1月，因与陕西镇安县同名，改为黑山县，隶属于奉天省辽沈道。1929年属辽宁省。1932年属奉天省。1935年属锦州省。1949年属辽西省。1954年属辽宁省。
1996年，黑山县面积2436平方千米，人口约64.3万人，其中满族人口约12万人。辖16个镇、11个乡、2个民族乡：黑山镇、八道壕镇、小东镇、大虎山镇、无梁殿镇、白厂门镇、半拉门镇、四家子镇、芳山镇、励家镇、胡家镇、姜屯镇、绕阳河镇、常兴镇、新立屯镇、新兴镇、二道乡、大兴乡、六合乡、太和乡、司屯满族乡、四间房乡、李屯乡、罗屯乡、英城子乡、段家乡、胜利乡、镇安满族乡、薛屯乡。县政府驻黑山镇。
1997年，撤销司屯满族乡、太和乡，设立羊肠河镇、太和镇（辽政[1997]30号）。调整后，黑山县辖18个镇、10个乡、1个民族乡：黑山镇、芳山镇、白厂门镇、常兴镇、姜屯镇、励家镇、绕阳河镇、半拉门镇、无梁殿镇、胡家镇、新立屯镇、八道壕镇、大虎山镇、四家子镇、新兴镇、小东镇、太和镇、羊肠河镇、镇安满族乡、英城子乡、六合乡、罗屯乡、李屯乡、胜利乡、段家乡、大兴乡、二道乡、薛屯乡、四间房乡。
2000年第五次人口普查，黑山县常住总人口617664人，其中：黑山镇74444人，芳山镇22015人，白厂门满族镇16605人，常兴镇14215人，姜屯镇22215人，励家镇27142人，绕阳河镇19243人，半拉门镇19368人，无梁殿满族镇23213人，胡家镇22700人，新立屯镇31076人，八道壕镇43850人，大虎山镇46194人，四家子镇20579人，新兴镇15637人，小东镇29694人，太和镇14444人，羊肠河满族镇15031人，镇安满族乡19558人，英城子乡10975人，六合乡10046人，罗屯乡9364人，李屯乡10645人，胜利乡11688人，段家乡25912人，大兴乡10015人，二道乡10187人，薛屯乡10687人，四间房乡10922人。
2002年1月31日，辽宁省政府（辽政[2002]34号）批准：撤销镇安满族乡、羊肠河镇，合并设立镇安满族乡；撤销胜利乡、太和镇，合并设立太和镇；撤销二道乡、绕阳河镇，合并设立绕阳河镇；撤销六合乡、英城子乡，合并设立英城子乡；撤销四间房乡、常兴镇，合并设立常兴镇；撤销李屯乡、芳山镇，合并设立芳山镇；撤销罗屯乡、薛屯乡，合并设立薛屯乡；撤销白厂门满族镇、无梁殿满族镇，分别设立白厂门镇、无梁殿镇，继续享受民族乡待遇。（同年3月正式实施）
2002年6月，黑山县辖17个镇、5个乡（其中1个民族乡），51个社区、417个行政村，面积2436.01平方千米，人口约63.40万人，县政府驻黑山镇中大中路189号。
2010年第六次人口普查，黑山县常住总人口615085人，其中：黑山镇102888人，芳山镇29524人，白厂门镇16004人，常兴镇22099人，姜屯镇21037人，励家镇23982人，绕阳河镇24815人，半拉门镇18876人，无梁殿镇23501人，胡家镇22829人，新立屯镇28859人，八道壕镇40761人，大虎山镇43591人，四家子镇20205人，新兴镇14742人，太和镇24077人，英城子乡20037人，镇安乡34274人，段家乡24320人，大兴乡9734人，薛屯乡18082人，辽宁省锦州市小东种畜场30848人。
2013年8月9日，省政府（辽政[2013]159号）批复同意：撤销镇安满族乡，设立镇安镇；撤销黑山镇、大虎山镇，设立黑山街道、大虎山街道。