魏晋、南北朝时属党项羌驻牧地，唐设“羁縻州”，元属“吐蕃等路宣慰使司都元帅府”，明属朵甘行都司和硕特蒙古政权辖地，清为上郭罗克百户、中郭罗克千户部落牧地，青海建省后由省直辖。民国二十四年（1935年）为果洛行政督察区属地。民国二十九年（1940年）设西乐设治局，民国三十五年（1946年）撤销。1952年玛沁地区解放，1957年设置玛沁县。
1999年末，玛沁县面积14652平方千米，人口33725人（根据青海省志）。辖1个镇和10个乡：大武镇、大武乡、军功乡、拉加乡、东倾沟乡、雪山乡、当项乡、当洛乡、昌麻河乡、优云乡、下大武乡。县政府驻大武镇。
2000年第五次人口普查，玛沁县总人口35778人，其中：大武镇12869人，大武乡2925人，拉加乡5499人，军功乡3815人，东倾沟乡1804人，雪山乡1558人，下大武乡1539人，优云乡2132人，当洛乡1787人，当项乡1226人，昌麻河乡624人。
2001年3月5日，青海省政府青政函[2001]14号文批复：撤销拉加、军功2乡，合并设立拉加镇；撤销当项乡，并入当洛乡。调整后，玛沁县辖2个镇、7个乡：大武镇、拉加镇、大武乡、东倾沟乡、雪山乡、下大武乡、昌麻河乡、优云乡、当洛乡。
2001年末，玛沁县辖2个镇、7个乡，31个牧委会。大武镇驻大武。拉加镇驻拉加，辖史肉欠、赞根、哈夏、俄合科、台西、拉德、也合恰、加思乎、麻什堂、赛日托、曲哇军功11个牧委会。大武乡驻桑多，辖江钦、哈龙、日近3个牧委会。东倾沟乡驻曲如麻堂，辖当前、东柯河2个牧委会。雪山乡驻尕茶多，辖阳柯河、阴柯河2个牧委会。下大武乡驻雪前多，辖年扎、清水、尼青3个牧委会。昌麻河乡驻昌麻河，辖茶藏、血麻2个牧委会。优云乡驻中心站，辖优曲、德尔当、阳桑3个牧委会。当洛乡驻当洛，辖格雅、加布青、岗龙、坎巴、查切5个牧委会。
2006年8月，撤销昌麻河乡，并入优云乡。调整后，玛沁县辖2个镇、6个乡：大武镇、拉加镇、大武乡、东倾沟乡、雪山乡、下大武乡、优云乡、当洛乡。