据《寰宇通志》：“葭县，奉汉圁阴县地。内有葭芦川，宋即川为寨。”北周保定二年（562年）于西北部设中乡县并兼为中乡郡治。隋开皇元年（581年）因避文帝父讳，改名真乡县，三年郡废。唐和五代属银州。北宋至道后废县，元丰五年（1082年）置葭芦寨，以城西葭芦川西岸葭芦（芦苇）丛生得名。元符二年（1099年）升为晋宁军。
金大定二十二年（1182年）升晋宁州，二十四年改葭州。明洪武七年（1374年）降为葭县，属绥德州，十三年升为葭州，属延安府。清属榆林府。1913年罢州复设葭县。1914年属榆林道。1928年直属省。1949年属绥德分区。1950年属绥德专区。1958年省入米脂县，1961年复置。1964年因葭字生僻，改名佳县。1969年属榆林地区。1999年属榆林市。
1942年6月2日，陕甘宁边区第21次会议决定，把德胜、界牌划归神府县，开光划归榆林县，其余10个乡公所改为10个区公所，辖55个乡。1945年8月，改辖10个区、56个乡、2个乡级市（螅蜊峪市、葭芦市）。
1946年10月原榆林县报恩乡、金明乡及安崖底一带并入葭县，新设毛谷区、兴隆区、开光区。1947年6月，撤销兴隆区，辖地划给响石、古木、毛谷等区；同年秋，毛谷区改为葭芦区；同年秋冬，榆林县常乐乡、双建乡并入葭县。1948年2月新设常乐区、双建区。
1949年，全县辖14个区、74个乡、295个行政村、879个自然村。1950年将开光区划归神府县，常乐区、双建区划归榆林县，葭县辖11个区。1952年7月，将原11个区依次排列为第一至第十一区。1956年11月17日，原11个区改编为12个区，辖64个乡，627个自然村；另设城关街政府，归县人民委员会直辖。
1958年9月7日，调整为6个区、32个乡，城关街政府未变。坑镇区：驻地黑水坑，辖螅镇乡、峁上乡、雷家沟乡、康家港乡、黑水坑乡、楼底乡。店镇区：驻地店头，辖三岔沟乡、特牛沟乡、木头峪乡、刘家沟乡。乌镇区：驻地乌镇，辖申庄乡、秦家坪乡、拓家乡、下高寨乡、乌镇乡。金明寺区：驻地王石畔，辖金明寺乡、朱官寨乡、磨川乡、中上乡、官庄乡。通镇区：驻地通镇，辖河川乡、下何家坬乡，大坬乡、通镇乡。王家砭区：驻地王家砭村，辖打火店乡、方塌乡、高武沟乡、白家铺乡、郑家沟乡。县直辖乡：谭家坪乡，驻地谭家坪村。
1958年10月，撤销6个区，原32个乡和城关街政府合并为17个乡人民委员会；同月，开始试办公社，政社合一后，改乡人民委员会为人民公社。1959年，榆林县安崖公社王寨大队（100户）划归王家砭公社管辖。1961年9月1日，复设葭县，将8个公社划为23个公社（除通镇公社外，其他公社名称均与驻地名称相同）。
1962年10月增收3个区工委。坑镇区，驻地坑镇，辖螅镇、坑镇、康家港、楼底（驻地楼底，后迁大佛寺，改为大佛寺公社）、店镇5个公社。通镇区，驻地高家塄，辖西山、通镇（驻地高家塄）、朱家坬、刘国具、上高寨、王家砭、崖窑坬（驻地崖窑坬，1970年1月迁驻方塌，改为方塌公社）7个公社。金明寺区，驻地王石畔，辖兴隆寺、官庄、朱官寨、金明寺4个公社。木头峪、峪口、城关、神泉、乌镇、下高寨、郭家圪（驻地郭家圪，后迁刘家山，改为刘家山公社）7个公社由县直属。
1965年12月29日撤销区工委，仍设23个公社（除康家港公社迁至开花寺外，其他公社名称、驻地均未变）。1980年，全县辖23个公社、653个生产大队。