秦置鄣郡，西汉元封二年（公元前109）改丹郡，治宛陵(今宣州区)。西晋太康二年（281）析丹阳郡置宣城郡。隋初废郡，改南豫州为宣州，不久又改称宣城郡。唐初置宣州，中间一度改称宣城郡，以后复称宣州。南宋乾道二年（1166）升为宁国府，明、清袭之。1932年置第九行政督察区，专署驻宣城。后改为第六行政督察区。
1949年5月设宣城专区，属皖南行署区。宣城专署驻宣城，辖宣城市及宣城、郎溪、广德、宁国、泾县等5县。1950年撤销宣城市，原芜当专区所属当涂、南陵2县划入宣城专区。辖7县。1952年1月撤销宣城专区，将宣城、郎溪、广德、泾县、当涂、南陵6县划归芜湖专区；宁国县划归徽州专区。
1970年芜湖专区改称芜湖地区，地区驻芜湖市，辖芜湖市及芜湖（驻鲁港）、当涂、郎溪、广德、宣城、泾县、南陵、繁昌等8县。1973年芜湖市改由省直辖。1980年1月29日，国务院批准：芜湖地区的芜湖县划归芜湖市；芜湖地区行政公署驻地由芜湖市迁至宣城县，并更名为宣城地区。1980年2月正式改名宣城地区，1982年4月行署机关移驻宣城。
1983年10月8日，国务院批准同意：宣城地区的当涂县划归马鞍山市；繁昌县、青阳县、南陵县划归芜湖市。1996年，宣城地区面积12340平方千米，人口约271.2万人，行署驻宣州市。辖宣州、宁国2市和郎溪、广德、泾县、旌德、绩溪5县。
2000年6月25日，国务院批准：（1）撤销宣城地区和县级宣州市，设立地级宣城市。市人民政府驻新设立的宣州区。（2）宣城市设立宣州区，以原县级宣州市的行政区域为宣州区的行政区域。区人民政府驻叠嶂中路。（3）宣城市辖原宣城地区的广德县、郎溪县、泾县、旌德县、绩溪县和新设立的宣州区。原宣城地区的宁国市由安徽省直辖。
2000年第五次人口普查，宣城市常住总人口2659639人，其中，宣州区822707人，郎溪县316592人，广德县485757人，泾县333586人，绩溪县177091人，旌德县142064人，宁国市381842人。
2001年2月，宣城市正式挂牌成立。
经过2001-2003年全市乡镇行政区划调整以后，全市由176个乡镇、街道（67镇、103乡、6个街道）调整为115个乡镇、街道，其中有61个镇、44个乡、10个街道。2004年末，全市户籍人口273万人，常住人口268万人。
2010年第六次人口普查，宣城市常住总人口2532938人，其中，宣州区772490人，郎溪县320627人，广德县487243人，泾县299555人，绩溪县156127人，旌德县120039人，宁国市376857人。
2014年末，宣城市辖1个市辖区、5个县，代管1个县级市，共有15个街道、58个镇、20个乡。