旧称南台。公元前202年，无诸被封为闽越王，在大庙山建一台，题词：“登南城翘望，有台临江”，故名之。或说，闽江流经市区一段称台江，区以江名。1946年1月福州建市时即置台江区，与小桥区并列市辖区。1949年8月17日解放后，仍为市辖区之一。1956年5月，撤销小桥区，并入台江区。1968年9月，台江区更名为赤卫区。1978年4月，赤卫区复名台江区。
1955年11月，设苍霞、中平、后洲、瀛洲、新港5个街道办事处。1956年5月，撤销小桥区，并入台江区，所辖茶亭、洋中、双杭、义洲、帮洲5个街道办事处归台江区管辖。1957年10月，撤销中平街道办事处，并入苍霞街道办事处。1970年2月，鼓山公社并入赤卫公社，划归赤卫区。1973年11月，赤卫公社分为赤卫公社和东风公社。1975年3月，撤销东风公社，设立鼓山公社和鼓岭公社。5月，鼓山、鼓岭公社划归郊区。7月，赤卫公社划归蔬菜区。1986年，增设上海新村街道办事处。
1995年10月27日，国务院（国函[1995]102号）批复同意调整福州市市辖区的行政区域，其中：（1）台江区辖瀛洲、新港、后洲、茶亭、洋中、双杭、苍霞、帮洲、义洲、上海新村10个街道办事处，从原郊区划入的台江镇及所辖的南公、曙光、红旗、双丰、红星5个居委会和洪山镇的祥坂、长汀、高桥3个居委会。区政府驻地不变。（2）将茶亭街道的斗中、西营里、福中、九福庵4个居委会划归鼓楼区管辖。将新港街道的连潘、连辉、象园3个居委会划归晋安区管辖。
1996年1月，福州市区行政区划调整后，台江区从鼓楼区划入龙庭、状元2个居委会；从原郊区台江镇划入南公、红星、曙光、红旗、双丰5个行政村；从洪山镇划入祥坂、长汀、高桥3个行政村；划出茶亭街道的斗中、西营里、福中、九福庵4个居委会归鼓楼区；划出连潘、连辉、邦辉、象园4个居委会归晋安区；增设宁化、鳌峰2个街道。1997年，省民政厅批复同意撤销台江镇；同年，上海新村街道更名为上海街道。
2000年第五次人口普查，台江区常住总人口368400人，其中：瀛洲街道50110人，后洲街道14249人，义洲街道35460人，新港街道39229人，上海街道67170人，双杭街道20844人，苍霞街道11433人，帮洲街道16759人，茶亭街道32560人，洋中街道28557人，鳌峰街道24871人，宁化街道27158人。
2001年末，台江区面积18.02平方千米，人口29.7万人。辖洋中、上海、茶亭、新港、宁化、义洲、帮洲、双杭、苍霞、后洲、瀛洲、鳌峰12个街道，共有90个居委会、8个行政村。
2004年，经市政府批准，撤销帮洲街道并入苍霞街道，撤销双杭街道并入后洲街道。调整后，台江区辖10个街道，90个社区，总人口37万人。
2010年第六次人口普查，台江区常住总人口446891人，其中：瀛洲街道54186人，后洲街道44047人，义洲街道40407人，新港街道49609人，上海街道73010人，苍霞街道43654人，茶亭街道34441人，洋中街道29195人，鳌峰街道43802人，宁化街道34540人。