黄山市辖3个市辖区、4个县:屯溪区、黄山区、徽州区、歙县、休宁县、黟县、祁门县。共有6个街道、56个镇、45个乡。市政府驻屯溪区昱东街道天都大道1号。
屯溪区辖4个街道、5个镇:昱东街道、昱中街道、昱西街道、老街街道,屯光镇、阳湖镇、黎阳镇、新潭镇、奕棋镇。区政府驻阳湖镇兴昱路7号。
黄山区辖1个街道、9个镇、5个乡:新城街道、甘棠镇、仙源镇、汤口镇、谭家桥镇、太平湖镇、焦村镇、耿城镇、三口镇、乌石镇、新明乡、龙门乡、新华乡、新丰乡、永丰乡。区政府驻甘棠镇北海南路。
徽州区辖1个街道、4个镇、3个乡:徽州街道、岩寺镇、西溪南镇、潜口镇、呈坎镇、洽舍乡、杨村乡、富溪乡。区政府驻徽州街道文峰路66号,南距市府所在地屯溪16千米,距黄山机场18千米。
歙县辖13个镇、15个乡:徽城镇、深渡镇、北岸镇、富堨镇、郑村镇、桂林镇、许村镇、溪头镇、杞梓里镇、霞坑镇、岔口镇、街口镇、王村镇、坑口乡、雄村乡、上丰乡、昌溪乡、武阳乡、三阳乡、金川乡、小川乡、新溪口乡、璜田乡、长陔乡、森村乡、绍濂乡、石门乡、狮石乡。县政府驻徽城镇紫阳路18号。
休宁县辖10个镇、11个乡:海阳镇、齐云山镇、万安镇、五城镇、东临溪镇、蓝田镇、溪口镇、流口镇、汪村镇、商山镇、山斗乡、岭南乡、渭桥乡、板桥乡、陈霞乡、鹤城乡、源芳乡、榆村乡、龙田乡、璜尖乡、白际乡。县政府驻海阳镇书院路9号。
黟县辖5个镇、3个乡:碧阳镇、宏村镇、渔亭镇、西递镇、柯村镇、美溪乡、宏潭乡、洪星乡。县政府驻碧阳镇直街54号。
祁门县辖10个镇、8个乡:祁山镇、小路口镇、金字牌镇、平里镇、历口镇、闪里镇、安凌镇、凫峰镇、塔坊镇、新安镇、大坦乡、柏溪乡、祁红乡、溶口乡、芦溪乡、渚口乡、古溪乡、箬坑乡。县政府驻祁山镇。