建水因水得名。据《元史》：建水古称步头，亦云巴甸，每秋夏溪水涨溢如海，夷谓海为惠，囗为大，故名惠□。汉语曰建水。步头，即指埠或码头，意为“水为码头”之意。“巴甸”则为彝语，“巴”为旱地，“甸”为水，意为被水环绕的一块旱地（岛屿）。
西汉属牂柯郡毋掇县。东汉属益州牂柯郡毋掇县。三国蜀汉属益州建宁郡毋掇县。西晋属宁州兴古郡毋掇县。东晋至南朝梁属宁州。北朝周属南宁州。隋为南宁州总管府所辖东爨地。唐初属剑南道戎州；唐元和年间（806～820），南诏在建水筑惠历城（汉译建水城），隶属于通海都督府。大理国前期于此设建水郡，为巴甸侯爨判的封地，后期属秀山郡阿僰部地。
元初设建水千户，属阿僰万户；至元十三年改名建水州，隶临安路（治通海）。明洪武十五年（1382），临安路改临安府，府治迁至建水州，并设临安卫指挥使司（滇南军事指挥机关），拓地改建砖城，故有建水城又称临安城。清初沿明制，于此置临安府和临元镇总兵官，建水州属临安府。清雍正八年（1730）7月，临安府属迤东道。乾隆三十一年（1766）10月，临安府属迤南道。乾隆三十五年（1770）2月，改建水州为建水县，仍属临安府。光绪十三年（1887）10月，临安府属临安开广道。
1912年10月，临安府所在地的建水县被裁撤，由临安府府长兼理建水县行政事务。1913年撤销临安府，复设县治于建水，改名为临安县；将建水县北区划出，设曲江行政委员，属县级行政机关，隶蒙自道。1914年1月，因与浙江临安县重名，仍恢复建水县旧名。1918年，撤曲江行政委员，改由建水县曲江县佐管理，县佐由省政府委派。1922年，将曲江县佐地划出，增设曲溪县，县政府驻新街（1929年11月批准）。1929年废道，建水、曲溪县由省直辖。1942年，建水、曲溪县属云南省第三行政督察区（驻建水县）。1948年，建水、曲溪县属第五行政督察区（驻建水县）。
1950年，建水、曲溪县属蒙自专区。1957年9月6日，国务院全体会议第57次会议决定：设置红河哈尼族彝族自治州，建水、曲溪县划归红河州（红河哈尼族彝族自治州于1957年11月18日成立）。1958年10月，中共红河地委决定撤销曲溪县；1960年9月13日，国务院全体会议第103次会议通过，国务院议69号文批准：撤销曲溪县，将原曲溪县的行政区域并归建水县。此后建水县撤销区乡建制，全县建成普雄、官厅、西庄、南庄、陈官、岔科、渣腊、曲江、利民、苏租10个公社。
1996年，建水县面积3764平方千米，人口约47.2万人，其中汉族占67%。辖5个镇、12个乡：临安镇、曲江镇、南庄镇、西庄镇、陈官镇、青龙乡、岔科乡、李浩寨乡、东山坝乡、面甸乡、东坝乡、坡头乡、官厅乡、普雄乡、盘江乡、甸尾乡、利民乡。县政府驻临安镇。
1999年，面甸乡撤乡设镇。？年，岔科乡、官厅乡、青龙乡、东坝乡撤乡设镇。至此，建水县辖10个镇、7个乡：临安镇、东坝镇、陈官镇、西庄镇、青龙镇、官厅镇、曲江镇、面甸镇、南庄镇、岔科镇、坡头乡、普雄乡、利民乡、东山坝乡、李浩寨乡、甸尾乡、盘江乡。
2000年第五次人口普查，建水县常住总人口513712人，其中：临安镇62044人，官厅镇34210人，西庄镇34103人，青龙镇14741人，南庄镇49224人，陈官镇50034人，东坝镇47227人，岔科镇24481人，曲江镇45348人，面甸镇38311人，普雄乡12542人，李浩寨乡16110人，坡头乡23660人，东山坝乡22027人，盘江乡12059人，利民乡13782人，甸尾乡13809人。
2003年3月28日，省政府（云政复[2003]27号）批复同意撤销临安镇、东坝镇、陈官镇，设立临安镇；撤销曲江镇、东山坝乡，设立曲江镇。区划调整后，建水县辖8个镇、6个乡。
2005年10月13日，省政府批准同意撤销曲江镇、利民乡和李浩寨乡，设立新的曲江镇，镇政府驻原曲江镇政府驻地（注：实际上并没有实施？还是后来恢复利民乡和李浩寨乡？待查）。
2006年，建水县总面积3940平方千米，总人口51.7万人。辖8个镇、4个乡：临安镇、官厅镇、西庄镇、青龙镇、南庄镇、岔科镇、曲江镇、面甸镇、普雄乡、坡头乡、盘江乡、甸尾乡。共有10个居委会、137个行政村。县政府驻临安镇。
2010年第六次人口普查，建水县常住总人口531456人，其中：临安镇177303人，官厅镇36884人，西庄镇33094人，青龙镇14716人，南庄镇46696人，岔科镇24105人，曲江镇71402人，面甸镇39033人，普雄乡12963人，李浩寨乡15105人，坡头乡22822人，盘江乡10457人，利民乡14227人，甸尾乡12649人。
2014年，临安镇、曲江镇被列为全国重点镇。