同江市原名“临江”，土名“拉哈苏苏”，赫哲语，“废墟”或“老屋”之意。清末设治时，因其地濒松、黑两江，故名临江州，后因重名改为“同江”。唐属黑水都督府，辽属女真五国部，金属胡里改路，元属水达达路，明属奴儿干都司，清属三姓副都统。因其“濒临松花江南岸，北即黑河口，实为扼要咽喉”，1906年2月15日（清光绪三十二年正月二十二日）吉林将军奏准，于“富克锦东北之拉哈苏苏”（今同江市政府驻地）设置临江州，隶属依兰府。知州吴士澂于同年9月18日（农历八月初一日）启用关防“视事”。1909年6月2日（清宣统元年四月十五日）奏准升改临江府，隶属东北路道。
中华民国成立后，1913年3月，改临江府为临江县。1914年2月，因与奉天省临江县重名，奉令改为同江县。同年6月，隶属依兰道（由东北路道改称）。1929年2月，撤销道制，改由吉林省直辖。时为三等县。东北沦陷后，初隶吉林省，1934年12月划归三江省管辖。1945年“九三”抗日战争胜利后，划归合江省管辖。1949年1月6日，东北行政委员会决定，撤销同江县，并入富锦县。同年6月，划为第十区，1955年改为同江区。1959年4月24日，省人民委员会决定，将富锦县的同江区（包括同江、三村、乐业乡）划归抚远县管辖，并将同江区改为同江镇，抚远县人民委员会迁驻同江镇。
1965年8月23日，国务院决定，设置同江县，以抚远县西部地区，即同江镇和乐业、三村、街津口、八岔公社及勤得利农场乡为同江县的行政区域。县址设于同江镇。归合江专区管辖。同时，抚远县址迁至抚远镇。1985年1月，合江地区正式撤销，划归佳木斯市领导。1987年2月24日，国务院批准，撤销同江县，设立同江市（县级），由佳木斯市代管。1988年，辟为边境贸易口岸。
1992年末，同江市位于黑龙江省东北部，松花江与黑龙江汇合处。东与抚远县接壤，南与饶河县和富锦市毗连，西以松花江与绥滨县分界，北隔黑龙江与俄罗斯相望，国境线长166千米。边贸口岸城市。全市总面积6164平方千米。总人口14.1万人，其中非农业人口3.71万人，占总人口的26.3%；满、赫哲、朝鲜、蒙古、回等少数民族人口8200人，占5.8%。辖两个街道和12个乡、镇，其中有八岔、街津口两个赫哲族乡，是全国赫哲族的主要聚居地。（以上摘自《黑龙江省志·地名录》，有改动）
2000年第五次人口普查，同江市总人口164595人，其中：兴华街道18886人，繁荣街道20333人，同江镇2448人，乐业镇8009人，三村镇10684人，临江镇5622人，前卫乡3583人，向阳乡6043人，秀山乡3728人，青河乡4006人，街津口乡3224人，八岔乡3611人，金川乡2797人，银川乡2343人，勤得力农场21353人，青龙山农场12089人，前进农场18879人，洪河农场6314人，浓江农场5484人，鸭绿河农场5159人。
2005年3月29日，《黑龙江省民政厅关于对佳木斯市撤销同江市前卫乡、秀山乡请示的批复》（黑民区[2005]28号）：同意同江市撤销前卫乡，将前卫乡所辖的东胜村、同胜村、胜昌村、黎明村的友谊屯划归乐业镇管辖，乐业镇人民政府驻乐业村；将前卫乡所辖的黎明村（不含友谊屯）、同兴村、同富村划归向阳乡管辖，向阳乡人民政府驻向阳村。同意同江市撤销秀山乡，将其行政区域划归青河乡管辖，青河乡人民政府驻青河村。