州名取红水之意。秦汉时，境内主要有疏勒国、桢中国、尉头国、捐毒国。汉宣帝神爵二年（公元前60年），统治西域的匈奴日逐王先贤掸率众归汉，州境正式划入汉朝版图。北朝，在西域设西戎校尉府，疏勒、龟兹（尉头属龟兹）、乌孙（捐毒属乌孙），皆受辖于该校尉。隋朝时隶属于西突厥王庭。唐朝境内各地辖于安西都护府，境内设疏勒都督府（治所在疏勒镇）、蔚头州（治所孤石山）、温肃州（治所大石城）、演渡州（治所去曷饭馆）。今阿合奇分属温肃州、蔚头州；阿图什、阿克陶、乌恰分属疏勒都督府、演渡州。境内各地分属葛逻禄、样磨、处月等部。
北宋、辽时期，境内大部分土地属黑汗（即喀拉汗）王朝，其中东北部少部分地区（今阿合奇）属西州回鹘，南部少部分地区（今阿克陶）属于阗。公元1210年，喀拉汗王朝为屈出律所灭，州境始属西辽。1218年，西辽为蒙古所灭，蒙古设断事官对境内实施统治。公元1275年，元在阿里麻力设中书行省，州境即辖于该中书行省，由断事官辖治。1281年元改断事官为都护府，州境即属该都护府管辖。1346年，州境又属察合台后王封地。察合台后王为成吉思汗的次子察合台的后裔。
明代初年，辖于别失八里。明永乐十六年 （1418）明改别失八里为亦力把里地区。州境又为亦力把里首府大臣朵豁剌惕家族的世袭领地 ，称朵豁剌惕部，明嘉靖十二年（1533），察合台后裔赛义德汗建立叶尔羌汗国，州境属其统治。清康熙十七年（1678）准噶尔蒙古部噶尔丹侵入天山南路，州境在准噶尔部的统治之下。清政府平定准噶尔叛乱之后，于乾隆二十四年（1759）设总理回疆事务参赞大臣，州境即在该大臣的管理之下。乾隆二十七年（1762），州境又辖于伊犁将军。光绪十年（1884）新疆建省，境内分别辖于新疆省喀什噶尔道的疏勒府、伽师县及阿克苏道乌什厅。
民国初年，境内分辖于喀什行政区伽师县、疏附县、英吉沙县、蒲犁县和阿克苏行政区乌什县。1913年至1944年，境内先后建乌恰县、阿图什县、阿合奇县。1949年，新疆和平解放，境内阿合奇县辖于新疆省阿克苏专区，阿图什、乌恰等县辖于喀什专区。1954年7月，以柯尔克孜族为自治民族的克孜勒苏柯尔克孜自治州成立。至此，克孜勒苏才形成一个统一的地区级行政建置。
2000年第五次人口普查，克孜勒苏柯尔克孜自治州常住总人口439688人。其中：阿图什市200345人，阿克陶县163024人，阿合奇县34317人，乌恰县42002人。
2001年末，自治州总人口为44.49万人，其中，柯尔克孜族约占总人口的29%；维吾尔族约占64%；汉族约占4%；其它民族约占3%。辖阿图什市和阿克陶、乌恰、阿合奇三县，共有2个街道、5个镇、37个乡（其中1个塔吉克族民族乡）。
2003年，全州总面积70916.33平方千米，总人口458449人。辖1市3县，即阿图什市、阿克陶县、乌恰县、阿合奇县。州政府驻阿图什市。
2010年第六次人口普查，克孜勒苏柯尔克孜自治州常住总人口525570人，其中：阿图什市240368人，阿克陶县199065人，阿合奇县38876人，乌恰县47261人。