区名由来：因地处青岛市老城区北部而得名。1914—1922年在日本占领时期，在境内现聊城路、堂邑路一带，建立日侨区，称“新市区”。1939年改为青岛“特别市市北区”设区公所。1951年成立市北区。1994年与原台东区、四方区、崂山区一部合并，成立新的市北区。
1994年4月23日，青岛市调整市辖区行政区划：撤销台东区，其行政区域并入市北区。将四方区的吴家村、错埠岭2个街道，崂山区李村镇的杨家群、河马石、夹岭沟、曲家庵子4个村和中韩镇7号线以西的区域划归市北区。市北区人民政府移驻原台东区人民政府驻地。
1996年，全区面积28.6平方千米，人口约46.3万人。辖23个街道：利津路街道、陵县路街道、冠县路街道、市场三路街道、李村路街道、 胶州路街道、热河路街道、黄台路街道、辽宁路街道、大港一路街道、商河路街道、丰盛路街道、登州路街道、延安路街道、南仲家洼街道、北仲家洼街道、太平镇街道、威海路街道、台东八路街道、华阳路街道、吴家村街道、错埠岭街道、 浮山后街道。区政府驻利津路街道。
1996年11月，大港一路街道更名为泰山路街道，南仲家洼街道更名为宁夏路街道，吴家村街道更名为敦化路街道，错埠岭街道更名为辽源路街道，浮山后街道更名为合肥路街道；辽宁路街道与商河路街道合并设立新的辽宁路街道，胶州路街道、李村路街道、市场三路街道合并设立新的胶州路街道，热河路街道、陵县路街道合并设立新的热河路街道，威海路街道、台东八路街道合并设立新的威海路街道，利津路街道、丰盛路街道合并设立新的利津路街道，北仲家洼街道、太平镇街道合并设立北仲路街道。
2000年，市北区辖16个街道。第五次人口普查，总人口504213人，其中：冠县路街道19044人、泰山路街道17242人、胶州路街道25696人、热河路街道31180人、辽宁路街道25705人、黄台路街道27397人、华阳路街道22095人、登州路街道35613人、利津路街道29598人、延安路街道35810人、威海路街道30175人、北仲路街道34424人、宁夏路街道35378人、教化路街道36356人、辽源路街道55932人、合肥路街道42568人。
2001年末，全区总面积28.63平方千米。总人口46.65万人，其中非农业人口45.99万人。辖16个街道、1个社区，102个居委会（另一出处：102个居委会、4个行政村）。
2002年末，全区总面积28.63平方千米。总人口46.7万人，其中非农业人口46.5万人。辖16个街道、1个社区，108个居委会（另一出处：104个社区、2个行政村）。
2003年末，全区总面积28.63平方千米。总人口467989人，其中非农业人口46.7万人。有少数民族28个，3183人。辖冠县路、胶州路、热河路、辽宁路、黄台路、华阳路、登州路、利津路、延安路、威海路、泰山路、北仲路、宁夏路、敦化路、辽源路、合肥路16个街道、1个社区事务受理中心，110个居委会。
2004年，全区辖16个街道及浮山后社区，共有107个社区，47.3万人，总面积28.63平方千米，设在区外的新产业基地面积达到13平方千米。
2006年末，市北区辖冠县路街道、胶州路街道、黄台路街道、热河路街道、辽宁路街道、北仲路街道、威海路街道、延安路街道、泰山路街道、华阳路街道、登州路街道、利津路街道、宁夏路街道、敦化路街道、辽源路街道、合肥路街道等16个街道和浮山后社区，109个社区居委会。城区面积28.63平方千米，另外还有12平方千米的市北高新区，全区常住人口60余万人，户籍总人口474529人。市北高新区是市北区规划建设的“飞地”园区，2006年8月被国务院批准为国家高新技术产业开发区。
2008年1月，市北区街道行政区划开始进行重大调整，原有的16个街道、1个社区重新整合为16个街道：将热河路、黄台路、利津路3个街道与相邻街道合并，西部街道辖区面积整体扩大；在东部新成立洪山坡、同安路、浮山新区3个街道，适当缩小辽源路、合肥路街道等的管辖面积。其他各办事处的区域范围也都进行了调整。2008年末，全区面积28.63平方千米，青岛高新区新产业团地区域面积6平方千米。户籍总人口48.159万人。辖16个街道。