大冶市，汉属鄂县，三国属武昌县，隋属永兴县。唐天佑二年（905年），吴武昌节度使秦裴置大型冶炼机构青山场院。宋乾德五年（967年），南唐升青山场院，并划武昌三乡与之合置大冶县。以境内矿产丰富采冶业发达，按《庄子·大宗师》“大地为大炉，造化为大冶”一语，取“大兴炉冶”之意定名为大冶县。元、明、清时期，先后隶属兴国府和武昌府，中华民国初属湖北省江汉道。1936属第一行政督察区。
1949年成立大冶专区，大冶县属之。1952年撤销大冶专区，大冶县改属黄冈专区。1959年1月改属黄石市；同年12月撤销大冶县建制，并入黄石市。1962年6月恢复大冶县，仍属黄石市。1994年2月18日，民政部（民行批[1994]29号）批复撤销大冶县，设立大冶市（县级）。1995年元旦，大冶市正式成立，由黄石市代管。
967年，大冶建县时，分永丰、宣化、安昌、四会四个乡。1932年，全县分为10个区，下设6个堡，陈贵属第六区的小洪堡。1946年前后，全县分为3个区，50个乡、3个镇。
1996年，大冶市面积1593.1平方千米，人口约84万人。辖5个街道、12个镇、6个乡：东岳路街道、东风路街道、铜绿山街道、金湖街道、罗家桥街道、保安镇、金山店镇、陈贵镇、金牛镇、灵乡镇、铜山口镇、龙角山镇、还地桥镇、汪仁镇、殷祖镇、刘仁八镇、大箕铺镇、四棵乡、茗山乡、曙光乡、黄金湖乡、毛铺乡、高河乡。境内有1个农场。市政府驻东岳路街道。
2000年第五次人口普查，大冶市常住总人口873859人，其中：东岳路街道79385人，东风路街道24950人，金湖街道55385人，罗家桥街道55326人，铜录山街道38369人，金牛镇38879人，保安镇61972人，灵乡镇36915人，金山店镇46737人，铜山口镇7022人，龙角山镇4129人，还地桥镇56598人，殷祖镇38123人，汪仁镇28461人，刘仁八镇31328人，陈贵镇54836人，大箕铺镇55565人，高河乡23027人，毛铺乡13577人，茗山乡36950人，黄金湖乡9766人，曙光乡32208人，四棵乡40917人，东风农场3434人。
2004年末，大冶市总人口893120人。辖东岳路、金湖、罗家桥3个街道，大箕铺、殷祖、刘仁八、金牛、灵乡、陈贵、金山店、保安、还地桥、汪仁10镇和茗山1个乡，共有34个居委会、359个村委会。
2006年6月，大冶市的汪仁镇交由黄石开发区代管。2007年5月28日，《湖北省民政厅关于大冶市设立金山街道办事处的批复》（鄂民政发[2007]22号）：经省人民政府批准，同意大冶市设立金山街道办事处，将大冶市东岳街道办事处的金山、宝山、钟山、圣水泉、路平、鹏程、王坛、大路、四棵、新农、明港11个村委会，以及罗家桥街道办事处的王太、张冲、路东3个村委会划归金山街道办事处管辖，街道办事处驻四棵街。（金山街道由黄石经济开发区代管）
2010年第六次人口普查，大冶市常住总人口909724人，其中：东岳路街道101859人，金湖街道83051人，罗家桥街道57456人，金山街道33830人，金牛镇61733人，保安镇62122人，灵乡镇49815人，金山店镇42966人，还地桥镇88142人，殷祖镇35626人，刘仁八镇35446人，陈贵镇55918人，大箕铺镇56369人，汪仁镇38778人，茗山乡35403人，大冶经济开发区67691人，东风农场管理区2718人，四顾闸管理处801人。
全市现辖5个街道、10个镇、1个乡：东岳路街道、东风路街道、金湖街道、罗家桥街道、金山街道、金牛镇、保安镇、灵乡镇、金山店镇、还地桥镇、殷祖镇、刘仁八镇、陈贵镇、大箕铺镇、汪仁镇、名山乡。