明洪武元年（1368年）建都曰南京。1912年称南京府，1927年置南京特别市。1930年改称南京市。取南部京城之意。
1949年4月23日，南京解放。5月10日，南京市人民政府成立，为中央直辖市。下设13个区。8月增设1个郊区。10月，南京市的大黄洲、小黄洲划归安徽省的和县管辖。12月，苏南区的句容、江宁县，皖南的当涂县，苏北的六合县，皖北的江浦、和县划归南京市领导。1950年华东军政委员会成立后，南京市由华东军政委员会领导。1月，华东局决定将江宁、句容县仍划归苏南的镇江专区，六合县仍划归苏北的扬州专区。当涂、江浦、和县划归安徽省管辖。6月，南京市重新划区，将13个市区和1个郊区划为11个市区和1个陵园区。
1952年11月，中央人民政府决定江苏建省。1953年1月1日，江苏省人民政府正式成立。南京市改为江苏省人民政府直辖市，为江苏省省会所在地。1958年7月15日，常州专区所属江宁县和扬州专区所属江浦、六合2县划归南京市。1962年5月8日，江宁县划归镇江专区，江浦、六合县划归扬州专区。1964年，南京设玄武区、白下区、秦淮区、建邺区、鼓楼区、下关区、雨花区、栖霞区。1970年，增设钟山区。
1971年3月11日，原六合地区所属江浦县和镇江地区所属江宁县，划归南京市领导。1975年，扬州地区所属六合县重又划归南京市领导。南京市辖3县。撤销钟山区，并入栖霞区。镇江地区的高淳、溧水2县划入南京市。连同原辖的江宁、江浦、六合3县，南京市共辖5县，和浦口、栖霞、雨花台、玄武、大厂、下关、白下、建邺、秦淮、鼓楼10个区。
1995年南京市明确为副省级市，市辖区为副厅级。调整市区行政区划。玄武区：将鼓楼区中央路东侧廖家巷、大树根、后大树根、中央门4个居委会划入玄武区玄武门街道办事处管辖；将栖霞区玄武湖镇、孝陵卫镇（苜蓿园、后庄两个村除外），迈皋桥镇的小营、红山、藤子3个行政村，伊刘苗圃、红山公园及属中山陵园管理局行政管理的范围，划归玄武区管辖。其中从迈皋桥镇划入的3个行政村并入玄武湖镇。白下区：将雨花台区石门坎镇，栖霞区孝陵卫镇的苜蓿园、后庄2个行政村，划归白下区管辖。秦淮区：将雨花台区红花镇和大校场机场用地范围，划归秦淮区管辖。建邺区：将雨花台区江东镇所辖的河南、所街、兴隆、向阳、东林5个行政村和仁东桥、棉花堤、螺丝桥3个居委会，以及原茶亭行政村，划归建邺区管辖。鼓楼区：将雨花台区江东镇建制及江东镇所辖的清江、江东、河北3个行政村和中保村南半部分，以及江东门、新河口、二道桥3个居委会，划归鼓楼区管辖。下关区：将雨花台区江东镇中保村北半部分和栖霞区的小市镇、迈皋桥镇的五塘村归下关区管辖。雨花台区：将江宁县东山镇的农花村，江宁镇的永安、孙家、邵庄、新建、三山5个行政村和谷里乡的梅村及梅山冶金公司用地范围，划归雨花台区管辖。
2000年第五次人口普查，南京市（辖10个市辖区、5个县）总人口6126165人。其中：玄武区491364人、白下区369448人、秦淮区292260人、建邺区358966人、鼓楼区633188人、下关区365433人、浦口区224112人、大厂区219139人、栖霞区395388人、雨花台区274936人、江宁县781344人、江浦县292641人、六合县647537人、溧水县380288人、高淳县400121人。
2000年12月，国务院批准：撤销江宁县，设立南京市江宁区，以原江宁县的行政区域为江宁区的行政区域。区人民政府驻东山镇。南京市共辖4县11区。2002年4月3日，国务院批准（国函[2002]23号）：调整南京市部分行政区划。（1）撤销南京市浦口区和江浦县，设立新的南京市浦口区，以原浦口区和原江浦县的行政区域为浦口区的行政区域。区人民政府驻珠江镇。（2）撤销南京市大厂区和六合县，设立南京市六合区，以原大厂区和原六合县的行政区域为六合区的行政区域。区人民政府驻雄州镇。行政区划调整前：原浦口区面积157平方千米，人口17万人。邮政编码210031；原大厂区面积84平方千米，人口19万人。邮政编码210031；原江浦县面积737平方千米，人口30万，县人民政府驻珠江镇。邮政编码211800；原六合县面积1403平方千米，人口68万，县人民政府驻六城镇。邮政编码211500。