马关县因县境内有马白关而得名。西汉元鼎六年（前111年），马关属牂牁郡进桑县。东汉属益州牂牁郡进乘县。三国蜀汉建兴三年（225），属益州兴古郡进乘县。西晋永嘉四年（310），属宁州梁水郡新丰县。北周时，属西爨（白蛮）地。隋代属南宁州总管府昆州。唐初马关属南宁州都督府郎州地，唐南诏时属通海都督僚子部。宋代大理国前期，属通海都督矣部，后期属最宁府矣尼迦部。元至元八年（1271），属南路总管府阿僰万户舍资千户。至元十三年（1276）属临安路矣尼迦部。明代先属八寨长官司，直隶云南布政使司，后属临安府阿迷州教化三部长官司。
清康熙五年（1666）8月，临安府析置开化府，今马关属开化府地。雍正六年（1728）九月设“马白关”。雍正七年（1730）12月，开化府置文山县，今马关属文山县地。雍正八年（1730）7月，置迤东道，开化府属之。同年设马白同知专理对外事务。嘉庆二十四年（1819）6月，置安平厅，改马白同知为安平抚彝同知。安平厅署设于开化（今文山）与知府衙门同城。道光二年（1822）3月，析文山县属东安、逢春、永平三地入安平厅。
光绪十一年（1885）“中法战争”结束后，中国丧失了对越南的宗主国地位，越南变成了法国殖民地。光绪十三年（1887），中法两国互派官员至中越边境勘定边界，都龙等地回归中国，取名归仁里，为安平厅管辖。同年10月，置临安开广道，开化府改属临安开广道。光绪卅二年（1906）9月26日，安平厅衙门由开化移至马白，治理逢春、东安、永平、归仁4里。
民国二年（1913）4月，改安平厅为安平县，属蒙自道。民国三年（1914）1月，因其与贵州安平县同名，安平县改为马关县。民国18年（1929），废道后直属省。同年11月，由马关析置设西畴县。民国31年（1942），隶第二行政督察区（驻文山县）。民国33年（1944）6月，马关县为一等县，总面积2782平方千米，总户数15472户，总人口104191人，其中男性52347人、女性51844人。全县辖1镇、9乡；112保、1604甲。民国37年（1948），隶第四行政督察区（驻砚山县）。
1950年3月，马关县属文山专区。1957年5月24日，国务院全体会议第49次会议决定设置文山僮族苗族自治州（1965年10月12日国务院批复：文山僮族苗族自治州改为文山壮族苗族自治州），马关县属文山州。1996年，马关县面积2676平方千米，人口约33.9万人，其中少数民族16.3万人。辖8个镇、7个乡：马白镇、八寨镇、仁和镇、木厂镇、夹寒箐镇、小坝子镇、都龙镇、金厂镇、山车乡、南捞乡、坡脚乡、大栗树乡、浪桥乡、蔑厂乡、古林箐乡。
2000年第五次人口普查，马关县常住总人口350002人，其中：马白镇60859人，八寨镇25816人，仁和镇31759人，木厂镇25059人，夹寒箐镇36635人，小坝子镇14151人，都龙镇32400人，金厂镇8440人，南捞乡12927人，山车乡11378人，坡脚乡12162人，大栗树乡31288人，浪桥乡15812人，篾厂乡17377人，古林箐乡13939人。
2006年3月16日，省政府批准撤销山车乡，其行政区域并入坡脚乡，并将坡脚乡改设为坡脚镇，镇政府驻原坡脚乡政府驻地；撤销浪桥乡，其行政区域并入八寨镇，镇政府驻地不变。调整后，马关县辖马白、坡脚、八寨、仁和、木厂、夹寒箐、小坝子、都龙、金厂9镇和南捞、大栗树、篾厂、古林箐4乡。共有4个居委会、120个行政村，2197个村民小组。全县总面积2755平方千米，总人口35.7万人。
2010年第六次人口普查，马关县常住总人口367507人，其中：马白镇79534人，八寨镇43755人，仁和镇30290人，木厂镇24158人，夹寒筲镇36947人，小坝子镇13453人，都龙镇36961人，金厂镇8589人，坡脚镇21953人，南捞乡12939人，大栗树乡30273人，篾厂乡16729人，古林箐乡11926人。
2014年，八寨镇、都龙镇被列为全国重点镇。