吉林系满语“吉林乌拉”的简称．据《吉林通志》记载：“国语（注：清政府将满语称为国语）吉林谓沿，乌拉谓江，其曰吉林者从汉文而省也”、因此地位于松花江沿岸，政含有沿江都市之意。
唐初属渤海都护府粟末部。后属忽汗州、涑州，一度为渤海国都城（今吉林市乌拉街西土城）。明初属奴儿干都司女真部乌拉河卫、吾也吾卫，后北部为海西女真扈化乌拉部、辉发部，南部为白山纳音部。清初隶宁古塔昂邦章京。康熙十年（1671）为吉林副都统驻地。康熙十五年（1676）为宁古塔将军驻地。雍正四年（1726）在吉林乌拉设永吉州，属奉天府。乾隆十二年（1747）改永吉州为吉林厅。乾隆二十二年（1757）宁古塔将军改称吉林将军设将军衙门，改船厂为吉林乌拉，简称吉林。
光绪七年（1881）改为吉林直隶厅，光绪八年升为吉林府，设吉林分巡道，为道治。光绪三十三年（1907）实行省制，撤吉林将军、吉林副都统，裁吉林分巡道，为吉林省治。1913年撤府改置吉林县，属吉长道，1914年为道治，1929年废道直属吉林省，改吉林县为永吉县。1936年析永吉县城区设吉林市，永吉县治迁口前镇。1947年东北各省重新划定，吉林市仍为吉林省会。
1954年省会迁长春，吉林市为省辖市。1958年原由省直辖的永吉（驻吉林市）、舒兰、蛟河、桦甸、磐石等5县，交由吉林市领导。1966年设立永吉专区，专署驻吉林市，将原由吉林市领导的永吉（驻口前镇）、舒兰、蛟河、桦甸、磐石等5县划归永吉专区。1969年撤销永吉专区，所属永吉、舒兰、蛟河、桦甸、磐石等5县划归吉林市。
1982年8月2日，国务院批准设立永吉地区，辖吉林市的永吉、舒兰、磐石、蛟河、林甸5县，驻吉林市（本变更未实际实施）。1983年8月30日，国务院批准（国函173号）撤销永吉地区，原地区所辖县划归长春市市管辖（补1969年省革委会撤销2专区审批手续）；吉林省人民政府1983年9月5日通知（吉政发173号）。
1988年5月25日，民政部批复（民[1988]行批6号）撤销桦甸县，设立桦甸市（县级）。以原桦甸县的行政区域为桦甸市的行政区域。吉林省人民政府1988年6月14日通知（吉政发[1988]112号】）。1989年8月15日，国务院批准撤销蛟河县，设立蛟河市。1992年10月8日，民政部批复（民行批[1992]113号）撤销舒兰县，设立舒兰市。1995年8月30日，国务院批准撤销磐石县，设立磐石市。
1992年2月10日，民政部批复（民行批[1992]14号）：吉林市郊区更名为丰满区，并调整各区行政区划作如下调整： 将原郊区的欢喜乡，沙河子乡的晓光、春光、育林、南三道、沙河子村，九站乡的张久、烟达木村，孤店子镇的大红土、小红土村和昌邑区吉林大街以西、岔路乡以南的南京街道办事处和站前街道办事处的四个委划归船营区管辖，船营区人民政府驻伊通街。将原郊区孤店子镇的曹家、虹光、红卫、孤店子、八虎、四台子、荒地、永丰、孤家子、张家店村，九站乡（除张久村、烟达木村外）和沙河子乡的幸福、虹园、七家子、三道岭村，龙潭乡的东红、红升村，九站、双吉两个街道办事处划归昌邑区管辖，昌邑区人民政府驻天津路。将原郊区的金珠乡、江北乡、龙潭乡的大砬子、北甸子、龙城、土城子、铁东、东升、天太村划归龙潭区管辖，龙潭区人民政府驻遵义西路。将原郊区的丰满乡、江南乡、小白山乡、前二道乡、石井沟、红旗街道办事处和船营区的江南、丰满街道办事处及永吉县的旺起镇划归丰满区管辖，丰满区人民政府驻江南大街。
1996年，吉林市面积28042平方千米（《大典》数据），人口421.2万人，辖昌邑、龙潭、船营、丰满4区和永吉县，代管桦甸、蛟河、舒兰、磐石4个县级市。1999年2月，将昌邑区九站乡、九站街道划归吉林市经济技术开发区管辖。1999年末，全市总面积27894平方千米，人口430.01万人，其中市区人口142.39万人（区划调整前），占人口总数的40%。
2000年1月31日，吉林省民政厅（吉民行批[2000]2号）批复，经省政府批准，同意将永吉县江密峰镇、缸窑镇、大口钦满族镇、乌拉街满族镇、杨木乡划归龙潭区管辖；将永吉县河湾子镇、桦皮厂镇、两家子满族乡、土城子满族朝鲜族乡、船营区左家镇划归昌邑区管辖；将永吉县大绥河镇、搜登站镇、太平乡划归船营区管辖。
2000年第五次全国人口普查，吉林市总人口4485494人。其中：昌邑区666927人、龙潭区528724人、船营区479371人、丰满区278112人、永吉县423301人、蛟河市474109人、桦甸市444415人、舒兰市660065人、磐石市530470人。
2003年，吉林市全市人口451.4万人，其中市区198.5万人。总面积27120平方千米，其中中心区3636平方千米。辖4个城区、4个县级市、1个县、1个国家级高新技术产业开发区和1个经济技术开发区。