墨江历史悠久，因阿墨江而得名。江因阿木人居此而得名阿木江，后变为阿墨江。曾名“恭顺”、“他郎”。秦朝属西南夷地。西汉为哀牢地；东汉、三国蜀汉属益州永昌郡；两晋南北朝属宁州永昌郡。隋属濮部。唐南诏国属银生节度，为阿焚诸部所据。宋大理国为威楚府因远部（元江因远）和马笼部（新平漠沙）属地。元宪宗四年（1254）他郎内附，立为二千户，隶属宁州万户府。至元十三年（1276）设他郎千户所，隶属元江万户府。至元二十五年（1288）改他郎千户所为他郎寨长官司，隶属元江路，长官司署设他郎寨（今联珠镇）。明洪武十五年（1382）为他郎寨长官司，属元江府；永乐四年（1406），改他郎寨长官司为恭顺州，州治在碧朔（今碧溪乡碧朔），隶属元江军民府；弘治年间曾改隶临安府（建水县）；嘉靖十二年（1533）移恭顺州治至他郎寨（今县城）。
清初袭明制，为恭顺州，属元江军民府。顺治十八年（1661），裁恭顺州入元江府。雍正十年（1732）3月，于旧恭顺州他郎寨置他郎抚彝厅，属迤东道元江府；同年，署云贵总督鄂尔泰提请准元江府通判分驻他郎。乾隆三十五年（1770），元江府降为直隶州，他郎厅不便归州管辖遂改隶迤南道普洱府，以定南、儒林二土司并隶他郎通判。嘉庆十六年（1811）3月，裁云南宾川州赤石崖巡检为普洱府他郎厅知事。道光二十九年（1849）更设他郎营汛。移新熠营驻防他郎，为普洱镇左营。光绪二十八年（1902），驻勐烈的普定左营管带改为勐烈弹压委员，文武兼辖（一说为光绪21年5月，他郎猛烈行政区添设行政委员）。
民国二年（1913）4月，迤南道更名为滇南道，他郎厅改为他郎县，县列二等，隶滇南道。民国3年（1914）6月，滇南道更名为普洱道，他郎县属普洱道。民国5年（1916）11月，他郎县更名为墨江县。民国18年（1929）11月，废普洱道，墨江县直属省；同年，成立江城县，墨江县属猛烈行政区划归江城。民国21年（1932）4月，属第12政务视察区。民国23年（1934）4月，属第15政务视察区；民国24年（1935）8月，属第6政务视察区。民国27年（1938）9月，属第8政务视察区。民国30年（1941）6月15日，属第一区行政督察专员公署（驻宁洱县）。民国31年（1942）7月，属第四区行政督察专员公署（驻宁洱县）。民国35年（1946）10月，属第六区行政督察专员公署（驻新平县）。
1949年1月7日墨江县城解放，5月27日，成立“墨江县军政委员会”，8月3日墨江县临时人民政府成立，隶属思普区临时人民行政委员会。1950年5月4日，墨江县人民政府正式成立，隶属宁洱专区。1951年4月2日，政务院批准：将宁洱专区更名为普洱专区，墨江县属普洱专区。1953年3月28日，政务院批准：普洱专区更名为思茅专区，墨江县属思茅专区。1957年1月，县人民政府改称县人民委员会。1967年4月，全县实行军管，成立县军事管制委员会。1968年4月26日，墨江县革命委员会成立。1970年，思茅专区改为思茅地区，墨江县属思茅地区。
1979年7月30日，国务院批准：撤销墨江县，设立墨江哈尼族自治县。同年11月28日，在县城召开了自治县成立大会。2003年10月30日，国务院批准（国函[2003]113号）：撤销思茅地区，设立地级思茅市，墨江县属地级思茅市。2007年，思茅市更名为普洱市，墨江县属地级普洱市。
1949年在乡镇开展民主建政工作，以原联珠镇行政区域组建联珠区，以原碧溪镇行政区域组建碧溪区，以原景星镇和回龙乡行政区域组建景回区，以原白连乡、涟漪乡、龙潭乡、雅邑乡、坝溜乡、龙坝乡行政区域各组建白连区、涟漪区、龙潭区、雅邑区、坝溜区、龙坝区。至1950年5月全县共组建成9个区，91个行政村，4个行政街。1953年7月1日零时全国第一次人口普查，墨江县人口177934人。1954年4月25日，将墨江县坝溜区下七乡：老白、三楞、玛玉、土堆、莫洛、东乡、卧龙，面积370.5平方千米，人口12226人，划归红河哈尼族彝族自治州绿春县。1956年撤联珠区设玖联镇，全县设8区1镇，8个区下辖90个乡，玖联镇下辖2个街区。
1958年3月，普洱县通关区（面积361平方千米）划归墨江县。年底全县共建政社合一的“人民公社”9个及1个镇、40个管理区、149个大队，镇下设2个街道居民委员会。1959年1月，镇沅县新抚公社（面积968平方千米）划归墨江县。全县有10个公社1个镇，170个管理区、2个居民委员会。1960年5月，调整人民公社体制规模，将原来全县10个公社、1个镇、170个管理区调整为10个区、1个镇、159个小公社。1961年改公社为区，原管理区改为小公社。1962年4月又改区为公社，下仍设小公社。1962年11月再次改公社为区。这段时期名称频繁更换，但行政区划却无多大变化。1964年7月1日零时全国第二次人口普查，全县人口223805人。