春秋战国时属齐国。秦置历城县，属济北郡。西汉高帝六年（公元前201年）封其长子刘肥为齐王，领齐国及所属7郡，博阳郡属之，郡治博县（今泰安市郊区旧县）。吕后元年（公元前187年）割齐国“济南郡为吕王奉邑”，济南之名始见于文献。盖因郡治迁往位于济水（古河道）之南的东平陵故名。文帝十六年（公元前164年）以济南郡置济南国，立悼惠王子辟光为济南王，辖有东平陵、邹平、台、梁邹、土鼓、于陵、阳丘、般阳、菅、朝阳、历城、 、著、宜成14个县。景帝三年（公元前155年）济南王谋反被诛，国除为郡。西晋永嘉中，移治历城县（今济南市区）。南朝宋元嘉九年（公元432年）于济南郡侨治冀州，北魏皇兴元年（467年）复名齐郡。
隋开皇初废郡，大业初复置齐郡，辖有历城、祝阿、临邑、临济、邹平、章丘、长山、高苑、亭山、淄川10县。唐武德元年（618年）改齐郡为齐州，次年置总管府。贞观元年（627年）撤总管府，贞观七年又置总督府。天宝年间先后改称临淄郡、济南郡，乾元元年（758年）复为齐州，辖历城、章丘、亭山、临邑、长清、禹城、临济7县。北宋初属京东路，元丰元年（1078年）属京东西路，政和六年（1116年）升为济南府，领历城、禹城、章丘、长清、临邑5县。
金仍置济南府，属山东东路，领历城、临邑、齐河、章丘、禹城、长清、济阳7县。元初改为济南路，属中书省，领历城、章丘、邹平、济阳4县及棣、滨2州，棣州治厌次（今惠民县），辖厌次、商河、阳信、无棣4县；滨州治渤海（今滨州市），辖渤海、利津、沾化3县。
明初仍为济南府，属山东布政使司（简称行省），洪武九年（1376年）省治由青州移治济南，济南遂成为全省政治中心。时济南府治历城县，辖有历城、章丘、邹平、淄川、长山、新城、齐河、齐东、济阳、禹城、临邑、长清、肥城、青城、陵县15县及泰安、德州、武定、滨州4州，州领11县。泰安州辖新泰、莱芜2县；德州辖德平、平原2县；武定州辖阳信、海丰、乐陵、商河4县；滨州辖利津、沾化、蒲台3县。
清仍置济南府，雍正二年（1724年）由济南府析出泰安、武定、滨州3州升为直隶州，新泰、莱芜、长清，阳信、海丰、乐陵，利津、沾化、蒲台9县分属3州。光绪年间，济南府仍辖有历城、章丘、邹平、淄川、长山、新城、齐河、齐东、济阳、禹城、临邑、长清、陵县、德平、平原15个县及德州。
【因地处古四渎之一的“济水”（古道为黄河所据）之南而得名。秦始皇建立郡县制时，今天的济南地区属于济北郡，称历下邑。汉初，设立济南郡，此为“济南”一名出现之始。济南郡治设于东平陵（今章丘县平陵城）。晋永嘉（307～312年）年间，济南郡治由东平陵移至历城。
隋文帝开皇三年（583年），改济南郡为齐州，治所仍在历城。宋开国后，济南沿称齐州。徽宗政和六年（1116年），升州为府，齐州遂为济南府。金代，济南仍为府，属山东东路。明初，曾置山东行省，济南始为山东首府，是山东布政使司、都指挥使司及按察使司驻地。从此，济南成为山东地区的政治中心。清代，济南仍为山东省治。】
民国元年（1912年）仍因袭清制，属济东泰武临道。1913年废府改道，今济南市行政区域除平阴县属济西道（1914年改东临道）外大部属岱北道（1914年改为济南道）。1927年，南京政府废止“道”制，改为行省、县二级制，至1928年随着北伐军的胜利，政令达于山东，遂废济南道，各县直辖于省政府。1929年7月，析历城县城、城外商埠及其四郊置济南市。市与历城县政府同驻济南城（至1937年县治始迁城东王舍人庄）。1930年全市划分为10个区。抗日战争胜利后划分为11区。【中华民国成立后，改府为道，济南初属岱北道，1914年改称济南道。1929年7月，设立济南市。全市面积为175平方千米，设城内一、二、三区，城外一、二、三区，商埠一、二、三、四区，共10个区。1938年，日军侵占济南后，划为11个区，称城内东区、城内西区、城外东区、城外西区、商埠东区、商埠西区、商埠中区、东乡区、南乡区、西乡区、北乡区。1945年日本投降后，仍为11个区，总面积177.62平方千米。】
1948年9月济南解放，人民政权置济南特别市，1949年5月改为济南市，下辖第一至第十一共11个区。1950年改为市区6个、郊区5个。1951年增设郊六区。1954年合并调整为市、郊各5区。1955年9月，各区由以序数命名改为以地名命名。各区的名称分别为：历下区、泺源区、市中区、槐荫区、天桥区、黄台区、北园区、段店区、药山区、玉符区。【1949年3月，将一、二区合并为城区。1951年4月17日，撤销直属乡，设立郊六区。1955年9月8日，调整济南市区划并变更区名。将第一、二区合并，改称历下区，因位于历山（今千佛山）之下而得名；第三区改称泺源区，因趵突泉（泺水之源）在辖区内而得名；第四区改称天桥区，以辖区内纵跨京沪、胶济两铁路之天桥而得名；第五区改成市中区，因地处市区中部而得名；第六区改称槐荫区，以辖区内槐荫街及古之大槐树庄而得名；郊一区至郊五区依次改称黄台区、北园区、段店区、药山区、玉符区；撤销郊六区。】
1956年撤销泺源区，其辖区分别并入天桥、历下、市中3个市区；撤销北园、黄台、段店、药山、玉符等5个郊区，以原该5个郊区的行政区域设立郊区办事处。计辖市中、天桥、历下、槐荫4个市区和一个郊区。【1956年7月16日，撤销泺源区，其行政区域分别划入天桥区、历下区、市中区；撤销北园区、黄台区、段店区、药山区、玉符区、梁家庄直属乡，与泺口镇及历城县划入的七个乡一并设立15个乡和泺口镇，隶属郊区。1957年12月25日，撤销济南市郊区建置，所属16个乡（镇）并入历城县，历城县归划济南市。】
1958年将原泰安专区的泰安市和章丘、长清、莱芜、新泰、历城、宁阳等1市6县划归济南市。1959年7月撤销市中区，原该区所辖的10个街道中，普利门以东的2个划归历下区，以西的8个划归槐荫区。同时设立市东区，以历下区以东、郭店以西地区为其行政区域。区机关驻王舍人庄。【1958年9月15日，章丘县、长清县划归济南市。同年10月30日中共山东省委和省人民委员会批准，撤销泰安专区，将新泰县、莱芜县、宁阳县和泰安市划归济南市。1959年9月，平阴县、肥城县划归济南市；新泰县孙村人民公社和汶南人民公社的一部分地区划出，设立新汶市，仍归济南市管辖；撤销长清县，其行政区域分别划入历城、肥城和平阴县。1959年12月7日，撤销市中区，将原市中区所属两个街道办事处划归历下区；将8个街道办事处划归槐荫区。同时将市区周围的工矿企业、机关、学校及职工家属宿舍等64个单位分别划入天桥区、槐荫区；新建市东区，管辖历下区以东、郭店以西地区的企业、机关、学校等67个单位。】
1960年撤销长清县，原该县行政区域分别划入平阴、肥城、历城3县；同年析新泰县孙村公社全部及汶南、城关、宫里3公社各一部分置新汶市；同年，平阴县初属济南，旋改属菏泽专区。1961年，因泰安专区恢复，济南市原辖各县、市除历城县外，均复归泰安专区。同年5月撤销市东区，划回历城县。同年恢复市中区（批准月份不详）。【1960年1月22日，平阴县划归菏泽专区。同年6月18日，恢复市中区；市东区与历城县东郊人民公社合并，建立东郊区；历城县西郊、北园人民公社划归市区。调整后，济南市辖历下、市中、天桥、槐荫、东郊5个区，并称人民公社，街道办事处改称分社。1961年4月18日，恢复长清县建制，重建泰安专区，将新泰、莱芜、宁阳、肥城、长清、章丘、泰安、新汶8个县（市）划归泰安专区。同年5月，撤销济南市东郊区，并将原属市区管辖的东郊、西郊、北园人民公社划归历城县。】
1978年【11月17日】，章丘、长清2县划入。【1980年3月，根据山东省革命委员会1978年5月14日的批复，重设济南市郊区。其区域范围仍按1965年国务院批准的范围（东至韩仓，西至玉符河，北至黄河，南至石房峪）划定。调整后，济南市共辖历下、市中、天桥、槐荫、郊区5个区和历城、章丘、长清3个县。】（注：以上主要出处为《山东省志·建置志》，【】里为其他出处）
1985年平阴县划入。1987年，历城县撤销，改置历城区。1989年济阳、商河2县划入。1992年10月章丘撤县设市（县级）。1994年2月，济南市被确定为副省级城市（注：副省级市是指城市的“行政级别”，即行政机构（也就是政府机关主要领导）的级别，不是指城市的“行政区划级别”）。2001年，撤销长清县，设立济南市长清区。2016年，撤销县级章丘市，设立济南市章丘区。