据民国《钦州县志》：“开皇十八年，改安州为钦州，取钦江为名。”一说，取“钦顺之义”。秦属象郡地，汉至晋属合浦郡地，南朝宋元嘉年间于此置宋寿郡，南朝梁代设安州。隋开皇十八年（598）改安州为钦州，大业三年（607）改宁越郡。元朝时置钦州路。明初改钦州府，洪武九年（1376）改为钦县，洪武十四年（1381）夏升为州。1912年改钦县。1963年改钦州壮族自治县，1965年改钦州县。1983年改为钦州市（县级）。1994年升为地级市。
1983年10月8日，国务院批准（国函[1983]215号）撤销钦州县，设立钦州市，以原钦州县的行政区域为钦州市的行政区域。1987年5月21日，国务院批准（国函[1987]84号）将钦州地区的合浦县划归北海市管辖。
1994年6月28日，国务院批准（国函[1994]62号）：（1）撤销钦州地区、钦州市，设立地级钦州市，市人民政府驻新兴路。（2）钦州市新设钦北区、钦南区。钦南区辖钦州、沙埠、康熙岭、尖山、久隆、黄屋屯、东场、犀牛脚、大番坡、龙门港13个镇，区人民政府驻钦州镇；钦北区辖新棠、板城、小董、大垌、长滩、那蒙、大寺、贵台、大直、青塘、平吉11个镇和那香乡，区人民政府驻钦州湾大道。（3）钦州市辖原钦州地区的浦北县、灵山县和新设的钦北区、钦南区。【注：2007年，钦州市政府迁至永福东大街11号】
1996年分钦南区设钦州港经济开发区，直隶于市。1997年划钦南区钦州镇全部及沙埠镇、尖山镇部分设钦城管理区，直隶于市；2003年9月撤销，并回钦南区。2006年7月分钦南区地设三娘湾旅游管理区。
2000年第五次全国人口普查，钦州市总人口2894407人。其中：钦南区508922人、钦北区526582人、灵山县1140799人、浦北县718104人。
2003年8月，钦发[2003]21号文件将北至南北二级公路，西至钦州湾大道，东至钦江，南至钦北铁路所围合的区域，总面积为2.36平方公里，划为钦北区城区建设范围；同年10月钦北区行政办公地点在该处动工兴建。2006年1月钦北区委区政府搬入新址办公。2007年4月，钦发[2007]11号文件将2.36平方公里内的牛头湾、清水窝划入钦北区辖管。2008年9月，钦州市政府办发函批复设立长田街道（为钦北区政府所在地）。
2010年第六次全国人口普查，钦州市常住人口307.97万人。
2012年，广西壮族自治区政府（桂政函[2012]75号）批复同意调整钦州市钦南区与钦北区部分行政区域界线，将钦南区管辖的向阳街道办事处沙坡社区、永福社区，南珠街道办事处白水塘社区、北营社区，水东街道办事处小江社区、山塘社区划归钦北区管辖【注：此次调整是将钦南区的南珠、向阳、水东等3个街道办事处中的18073户56021人划归钦北区管辖（以子材大街为界）。调整后，钦州市政府所在地属于钦北区】。