自1904年开济南西门外五里沟为商埠。1955年将济南市第六区改称为槐荫区，因辖区内以槐树命名的街巷较多而得名。
1985年9月，槐荫区面积13平方千米。设五里沟、经三路、西市场、南辛庄、振兴街、营市街、中大槐树、北大槐树、道德街、青年公园10个街道办事处，106个居委会。
1987年，将原郊区的段店镇、吴家堡镇划归槐荫区管辖。1989年9月29日，设立匡山、段店北路、张庄路三个街道办事处。
1995年12月7日，设立美里湖街道办事处，将吴家堡镇的西沙王庄、南沙王庄、新沙王庄、刘七沟、邹庄、李家寺、郑家店、鲁唐、邱庄、美里、蒋庄、北王庄、范庄、段庄等14个行政村划归美里湖街道办事处管辖。美里湖街道办事处机关驻新沙王庄。
1996年，槐荫区面积151.5平方千米，人口34万。辖12个街道2镇。区政府驻北小辛庄。
2000年第五次全国人口普查，槐荫区常住总人口396846人。道德街街道面积0.62平方千米，人口17458人；西市场街道面积0.71平方千米，人口19796人；中大槐树街道面积1.46平方千米，人口21722人；振兴街街道面积2.52平方千米，人口33913人；营市街街道面积2.37平方千米，人口34750人；五里沟街道面积0.92平方千米，人口29677人；青年公园街道面积0.79平方千米，人口19113人；南辛庄街道面积2.01平方千米，人口27860人；匡山街道面积5.71平方千米，人口31701人；张庄路街道面积9.86平方千米，人口27985人；段店北路街道面积3.60平方千米，人口32821人；美里湖街道面积17.50平方千米，人口15666人；段店镇面积62.96平方千米，人口62473人；吴家堡镇面积40.50平方千米，人口21911人。
2001年末，全区总面积151.48平方千米。总人口33.66万人，其中非农业人口23.93万人。辖12个街道、2个镇，175个行政村（居委会）。
2002年末，全区总面积151.48平方千米。总人口34.166万人。辖12个街道、2个镇，174个行政村（居委会）。
2003年末，全区总面积151.48平方千米。总人口34.7万人，其中少数民族1.42万人。辖12个街道、2个镇，174个行政村（居委会）。
2010年第六次人口普查，槐荫区常住总人口476811人，其中：振兴街街道39779人，中大槐树街道16860人，道德街街道16206人，西市场街道8181人，五里沟街道23285人，营市街街道27681人，青年公园街道24733人，南辛庄街道29330人，段店北路街道42317人，张庄路街道48569人，匡山街道54145人，美里湖街道34654人，吴家堡镇26936人，段店镇84135人。
2013年1月，《山东省人民政府关于同意调整济南市槐荫区部分行政区划的批复》（鲁政函民字〔2013〕1号）同意撤销段店镇和吴家堡镇，设立兴福、玉清湖、腊山、吴家堡4个街道办事处：一、兴福街道办事处辖原段店镇彭家庄、演马庄、于家庄、小饮马庄、小董家庄、大金庄、油牌赵村、孟王庄、小金庄、担山屯、位里庄、济西生活区等12个村居，办事处机关驻齐州路66号。二、玉清湖街道办事处辖原段店镇小李庄、新庞庄、石头庄、朱庄、河圈、大李庄、西王府庄、麻沟、东谢屯、由里庄、古城、筐里庄、田家庄、睦里庄、常旗屯、宋家桥、小杨庄、龙王庙、宋庄、北八里、南八里等21个村居，办事处机关驻经十西路3809号。三、腊山街道办事处辖原段店镇任家庄、张家庄、大杨、水屯、王府、后周王庄、前周王庄、河头王庄等8个村居，办事处机关驻济兖路462号。四、以原吴家堡镇行政区域设立吴家堡街道办事处，办事处机关驻济齐路149号。调整后，全区辖16个街道：振兴街街道、中大槐树街道、道德街街道、西市场街道、五里沟街道、营市街街道、青年公园街道、南辛庄街道、段店北路街道、张庄路街道、匡山街道、美里湖街道、兴福街道、玉清湖街道、腊山街道、吴家堡街道。区政府驻兴福街道。
2010年第六次人口普查，槐荫区常住总人口476811人，其中，振兴街街道39779人，中大槐树街道16860人，道德街街道16206人，西市场街道8181人，五里沟街道23285人，营市街街道27681人，青年公园街道24733人，南辛庄街道29330人，段店北路街道42317人，张庄路街道48569人，匡山街道54145人，美里湖街道34654人，吴家堡镇26936人，段店镇84135人。
2015年末，槐荫区辖16个街道，78个居委会、92个村委会（合计170个）。