晋太康三年（公元282年）拆侯官县温麻船屯地置温麻县，属晋安郡。隋开皇九年（589年）并入原丰县，开皇十二年（592年）改名闽县。唐武德六年（623年）析闽县温麻旧地复置温麻县，同年以城域大江前横，盈盈如束改名连江。历属丰州、泉州、建安郡、建州、福州、长乐郡、长乐府、福安府、福州路、福州府、闽海道。天宝元年（742）县治由伏沙（今白沙）移今址。
1949年8月16日解放后，仍设县。1950年属闽侯专区，1956年改属福安专区，1959年复属闽侯专区，1962年属福州市。1963年属闽侯专区，1970年属福安专区（1971年福安专区改称宁德地区），1983年划归福州市。
宋时分为永福、南永福、东宁善、西宁善、太平、闻名、五贤7乡。元代并为永福、五贤、宁善、太平、闻名5乡，另划4都。明清仍沿其旧。民国初沿清制，后划为19个区。民国21年（1932年）划为8个区，民国24年并为3个区，民国30年划为35个乡镇，民国35年并为丹阳、东澳、琯头、筱定、黄苔5镇和朱蓼、小沧、潘溪、所南、官塘、浦洋、鳌江、荷崇范、镜山、象厦、竿西、荻壶、西洋、竿塘14乡。
1949年划为敖江、丹阳、东澳、琯头、筱定、黄苔6镇和荷山、浦洋、镜山、荻壶、潘溪、小沧、朱蓼、所南、象厦、官塘、竿塘、西洋12乡，后又并为8个区，31个乡（镇），其中马祖乡尚待统一。1958年实行公社化，1961年划为14个公社，1983年划为18个公社。1984年实行政社分开，各公社分别改为乡（镇），并增设东岱乡，共设6个镇12个乡和1个畲族乡。后又相继增设透堡、下官、江南3个乡，并陆续将9个乡改镇。
1997年，省民政厅批复同意撤销：长龙乡，设立长龙镇；从敖江镇划出江南、魁岐、己古、南塘、横槎、梅洋、镜路、连兴、文新、王庄、花坞、连登、澄岩、儒洋、连沙15个村委会，设立江南乡；敖江镇划出北岳、凤尾2个村委会归凤城镇管辖。2000年，撤销坑园乡，设立坑园镇。
2000年第五次人口普查，连江县常住总人口599962人，其中：凤城镇59534人、敖江镇34954人、东岱镇31745人、琯头镇66550人、晓澳镇35634人、东湖镇15318人、丹阳镇26745人、长龙镇11964人、透堡镇18106人、马鼻镇37791人、官坂镇27586人、筱埕镇26899人、黄岐镇24130人、苔菉镇27301人、浦口镇34070人、坑园镇20957人、潘渡乡17129人、江南乡24921人、蓼沿乡26212人、安凯乡16538人、下宫乡12243人、小沧畲族乡3635人。（不含马祖乡）
2000年末，连江县面积1168平方千米，人口61.75万人。辖16镇6乡1民族乡：凤城镇、浦口镇、晓澳镇、琯头镇、丹阳镇、黄岐镇、东岱镇、敖江镇、东湖镇、马鼻镇、透堡镇、筱埕镇、苔菉镇、官坂镇、长龙镇、坑园镇、潘渡乡、蓼沿乡、下宫乡、安凯乡、江南乡、马祖乡、小沧畲族乡，设25个居委会、242个行政村。
2003年末，连江县户籍人口61.31万人，其中非农业人口10.63万人。2004年，全县辖22个乡镇（不含马祖乡），268个村（居），总人口62万人。
2007年末，连江县总面积1190.7平方千米（含马祖列岛23.5平方千米）。总人口为613354人（不含马祖列岛），其中城镇人口128298人。
2010年第六次人口普查，连江县常住总人口561490人，其中：凤城镇75553人，敖江镇52636人，东岱镇18791人，琯头镇60055人，晓澳镇29520人，东湖镇15272人，丹阳镇24284人，长龙镇9143人，透堡镇13455人，马鼻镇26516人，官坂镇24948人，筱埕镇25825人，黄岐镇23368人，苔箓镇25629人，浦口镇27955人，坑园镇16163人，潘渡乡16755人，江南乡22984人，蓼沿乡24216人，安凯乡14296人，下宫乡11180人，小沧畲族乡2946人。