古浪，以藏语古尔浪哇而得名，意为黄羊出没的地方。夏商时期属古雍州，西周时期由西戎牧驻，东周及秦时属月氏，汉初为匈奴所居。汉武帝元狩二年（公元前121年）置苍松、 次、朴 3县（约为今古浪全境及天祝藏族自治县、凉州区的部分地方），隶属武威郡。东汉曾改苍松为仓松。三国时为魏国仓松县。十六国时期，前秦和前凉、后凉、南凉、北凉、西凉（史称“五凉”）更替统治，先后置昌松郡、东张掖郡、魏安郡，分别辖昌松、 次、朴 等县。
南北朝时期，北魏、西魏、北周先后置昌松郡、魏安郡，分别辖昌松、 次、莫口、温泉、白山等县。隋置昌松县。唐长安元年（701年）在古浪峡口筑和戎城，之后称和戎县，后又改为昌松县。广德二年（764年）为吐蕃占领。咸通二年（861年）收复凉州，昌松故地复归于唐。北宋明道元年（1032年）属西夏国西凉府。南宋宝庆二年（1226年）为蒙古所属，在和戎城设巡检司，属永昌路。
明初为屯守所，属庄浪卫。洪武十年（1377年）因水名改为古浪，筑城于今治所。正统三年（1438年）设古浪守御千户所，属凉州卫。清雍正二年（1724年）置古浪县，属凉州府。民国初年属甘凉道。1927年废道，属甘肃省政府。1935年属甘肃省第六行政督察区。1936年属武威专员公署。1958年12月20日撤销古浪县，并入天祝藏族自治县。1961年12月15日恢复古浪县。
1996年，古浪县面积5098平方千米，人口36.8万人。辖3个镇、21个乡：古浪镇、土门镇、大靖镇、古丰乡、定宁乡、大墩滩乡、泗水乡、胡家边乡、永丰滩乡、黄花滩乡、西靖乡、民权乡、裴家营乡、黄羊川乡、十八里堡乡、黑松驿乡、井泉乡、海子滩乡、新堡乡、横梁乡、干城乡、冰草湾乡、直滩乡、新井乡。县政府驻古浪镇。
2000年第五次人口普查，古浪县常住总人口367048人，其中，古浪镇29225人，土门镇25183人，大靖镇31611人，古丰乡16584人，定宁乡23831人，泗水乡21529人，胡边乡11582人，永丰滩乡9101人，黄花滩乡12660人，西靖乡2279人，民权乡18540人，裴家营乡17732人，黄羊川乡24760人，十八里堡乡8634人，黑松驿乡20572人，井泉乡4145人，海子滩乡18208人，新堡乡8629人，横梁乡15854人，干城乡16240人，冰草湾乡7692人，直滩乡6491人，大墩滩乡6426人，新井乡9540人。
2004年乡镇行政区划调整：1、撤销井泉乡，将该乡的韭菜沟村、薛家水村、井儿沟村、北岭沟村、打拉水村、四道岘子村六个村并入黄羊川镇。该乡中岭村、夹山岭村并入黄花滩乡。2、撤销大墩滩乡，将该乡所有村并入大靖镇。3、撤销冰草湾乡，将该乡所有村并入海子滩镇。4、撤销胡家边乡，将该乡所有村并入土门镇。5、撤销新井乡，将该乡所有村并入直滩乡。
调整前，全县24乡镇（15乡、9镇）、1街道，4社区、249村，1934组；调整后，全县辖9个镇、10个乡、1个街道办：古浪镇、土门镇、大靖镇、定宁镇、泗水镇、裴家营镇、海子滩镇、黄羊川镇、黑松驿镇；永丰滩乡、黄花滩乡、西靖乡、民权乡、直滩乡、新堡乡、干城乡、十八里堡乡、横梁乡、古丰乡，共有4社区、249村，1934组。
2008年末，全县面积5103平方千米，辖19个乡镇，251个行政村，1951个村民小组。农业人口8.13万户36.12万人。
2010年第六次人口普查，古浪县常住总人口388720人，其中，城关街道19596人，古浪镇18212人，泗水镇22245人，土门镇39261人，大靖镇40534人，裴家营镇19968人，海子滩镇27862人，定宁镇24064人，黄羊川镇25482人，黑松驿镇21396人，永丰滩乡10857人，黄花滩乡17513人，西靖乡4919人，民权乡17663人，直滩乡16121人，新堡乡8165人，干城乡13479人，横梁乡13807人，十八里堡乡9619人，古丰乡17957人。
2015年，省民政厅（甘民复〔2015〕94号）批复同意撤销永丰滩乡、黄花滩乡、西靖乡，设立永丰滩镇、黄花滩镇、西靖镇。