“扎赉诺尔”（蒙古语，或译为“达赉诺尔”）是呼伦湖的习惯称谓，意为“海一样的湖”。清光绪二十七年（1901年），在译写东清铁路火车站的站名时，将“达赉诺尔”音转为“扎赉诺尔”。
民国二十八年（伪满康德五年，1939年），设扎赉诺尔街，属新巴尔虎右翼旗。1941年，扎赉诺尔街直属兴安北省。1945年1月改设为扎赉诺尔市。1948年5月，扎赉诺尔市改称扎赉诺尔区，隶属呼伦贝尔盟。1949年1月改称扎赉诺尔街；4月，扎赉诺尔街并入满洲里市，称扎赉诺尔区。
1957年2月，扎赉诺尔区改为扎赉诺尔矿区，升格为县级建制。1958年6月，撤销扎赉诺尔县级建制；10月9日成立满洲里市扎赉诺尔办事处。1960年6月改为扎赉诺尔矿区人民公社，保留办事处。1962年5月，成立扎赉诺尔矿区人民委员会，与矿区城市人民公社“一个机构两块牌子”；7月，扎赉诺尔矿区城市人民公社撤销。
1976年，扎赍诺尔矿区与邻旗重新划界，扎赉诺尔辖区为东临新巴尔虎左旗，西接新巴尔虎右旗，南濒呼伦湖，北与俄罗斯水路相接，面积为532平方千米。
1980年7月，内蒙古自治区批准扎赉诺尔矿区恢复旗县级建制。2000年第五次人口普查，扎赉诺尔矿区常住人口：第一街道17736人，第二街道17924人，第三街道15648人，第四街道14623人，第五街道14162人，灵泉街道17056人。
2004年2月，扎赉诺尔矿区改为扎赉诺尔区，由满洲里市代管。2010年第六次人口普查，常住人口：第一街道12262人，第二街道13091人，第三街道18223人，第四街道24480人，第五街道13568人，灵泉街道18336人。
2013年3月8日，经国务院批准，民政部正式下发《关于同意内蒙古自治区扎赉诺尔区备案的批复》（民函[2013]68号），将扎赉诺尔矿区以呼伦贝尔市扎赉诺尔区备案，为县级行政区划建制。
2013年3月25日，自治区人民政府下发《关于扎赉诺尔区以县级行政区划建制备案的通知》（内政发[2013]49号），进一步明确了国务院批准扎赉诺尔矿区以呼伦贝尔市扎赉诺尔区备案，为县级行政区划建制，由满洲里市代管，辖六个街道办事处（即第一、第二、第三、第四、第五、灵泉6个街道），区人民政府驻第三街道新政街1号。扎赉诺尔区成为内蒙古第102个旗县市区。
2014年，撤销灵泉街道，设立灵泉镇（内政字[2014]27号）。