汉代设置武都郡，西晋时氏羌王杨茂搜曾建立仇池国，十六国时期建立宕昌国，1944年设第八行政督察区。
1949年12月设武都分区（1950年改为武都专区），专署驻武都县，辖武都、文县、成县、康县、西固、西和、礼县等7县。1950年，原岷县专区所属岷县划入武都专区。1954年，西固县迁驻宕昌，改称宕昌县。1956年将礼县、西和、成县3县划归天水专区。1958年撤销武都专区，所属武都、康县、文县、宕昌、岷县5县划归天水专区。
1962年复设武都专区，专署驻武都县，天水专区所属武都、文县2县划入武都专区，恢复康县（驻岸门口）、宕昌、成县3县。1962年康县驻地迁咀台子。1963年原临洮专区所属岷县划入武都专区。1970年武都专区改称武都地区，地区驻武都县，辖武都、岷县、宕昌、成县、康县（驻咀台子）、文县等6县。
1985年，国务院批准将武都地区行政公署驻地由武都县迁至成县，更名为陇南地区（注：地区行政公署驻地仍在武都县，实际并没有迁至成县）。将天水地区的西和县、礼县划归陇南地区；将原武都地区的岷县划归定西地区。陇南地区辖成县、康县、文县、武都、宕昌、西和、礼县等7个县。
1996年，陇南地区面积2.79万平方千米，人口约259万人，汉族占97.97%。地区行政公署驻武都县城关镇，辖武都、成县、礼县、康县、文县、两当、徽县、宕昌、西和9县。
2000年第五次人口普查，陇南地区常住总人口2585479人，其中，武都县517148人、宕昌县272785人、成县251670人、康县194839人、文县234908人、西和县365662人、礼县483449人、两当县49782人、徽县215236人。
2004年，撤销陇南地区和武都县，设立地级陇南市。市人民政府驻新设立的武都区城关镇。陇南市设立武都区，以原武都县的行政区域为武都区的行政区域。区人民政府驻城关镇。陇南市辖原陇南地区的成县、文县、宕昌县、康县、西和县、礼县、徽县、两当县和新设立的武都区。（国务院2004年1月11日批准 国函[2004]1号）（甘肃省人民政府2004年2月11日批准 甘政函[2004]9号）
2010年第六次人口普查，陇南市常住总人口2567718人，其中，武都区555004人，成县242343人，文县218796人，宕昌县274313人，康县180061人，西和县393272人，礼县458237人，徽县200294人，两当县45398人。
2014年，武都区安化镇、两水镇、汉王镇，成县城关镇、黄渚镇、小川镇，文县城关镇、碧口镇，宕昌县城关镇、哈达铺镇，康县城关镇、阳坝镇，西和县汉源镇、长道镇、何坝镇，礼县城关镇、盐官镇、白河镇，徽县城关镇、江洛镇，两当县城关镇共21个镇被列为全国重点镇。
2016年初，全市共有4个街道、104个镇、91个乡（其中4个民族乡）。