济南是国务院公布的历史文化名城。因地处古四渎之一“济水”（故道为今黄河所据）之南而得名。据考古发掘资料，远在9000年前的新石器时代早期，已有先民在此繁衍生息。
距今4000～4500年前以磨光黑陶为特征的“龙山文化”，系因1928年首次发现于济南东郊龙山镇而被命名。夏代，龙山镇城子崖一带建有较大规模的城市。
商周时代，济南为古谭国（东方方国，都城在今城子崖、平陵城一带）地。春秋战国时代，济南属齐国，称“泺”“鞍”“历下”等邑，为齐国西南边陲重镇。
秦代，地属济北郡（郡治博阳，即今泰安）。西汉始置济南郡，郡治东平陵（今济南市章丘平陵城）。汉文帝十六年（前164年），设济南国，首府东平陵。
前154年，废济南国，复置济南郡。汉武帝时，济南郡辖东平陵、历城等14县，属青州刺史部。东汉建武十七年（41年），济南郡复称济南国，辖14县，后改辖10县。
魏晋南北朝时期，朝代屡屡更替，济南先后为魏、西晋、后赵、前燕、前秦、后燕、南燕、东晋、刘宋、北魏、东魏、北齐、北周辖境，置郡置国，变化频繁。
其间，济南郡治于西晋永嘉末年（313年前）从平陵（即东平陵）迁至历城。从此，今济南市区成为历代郡国、州府的行政中心。
刘宋元嘉九年（432年）在济南郡侨置冀州，济南为州、郡两级治所。北魏皇兴三年（469年），改侨冀州为齐州，辖济南郡、东魏郡、太原郡等6郡35县。
隋开皇三年（583年）撤郡并县，齐州仍治济南，辖历城等10县。大业三年（607年）齐州改称齐郡。唐朝建立后，复称齐州，辖历城、章丘、长清等6县。唐中叶天宝年间，齐州曾一度改称临淄郡、济南郡。五代时期，仍称齐州，先后为梁、唐、晋、汉、周的辖境。
北宋，齐州先后属京东路和京东东路。政和六年（1116年），齐州升为济南府，辖历城、章丘、长清等5县。建炎二年（1128年）后，被金朝所据，仍为济南府，辖7县，属山东东路。
其间，曾一度为原济南知府刘豫建立的伪齐辖境。元初，改为济南路，直隶于中央中书省。至元二年（1265年），辖棣州、滨州2州及历城、章丘、济阳、商河等11县。
金元时期，济南先后为金山东东西路提刑司、元山东东西道肃政廉访司治所，是山东地区的监察中心。
明初，复称济南府，辖泰安、德州、武定、滨州4州及历城、章丘、长清、济阳、商河等26县。洪武九年（1376年），山东最高行政机关“承宣布政使司”由青州迁至济南。
济南成为山东省会，全省政治、军事、经济、文化中心，全国重要的中心城市之一。清初，沿明朝建置。雍正二年（1724年）、十二年（1734年）调整区划。
济南府改辖德州和历城、章丘、长清、济阳等1州15县。民国初年，撤销济南府，置岱北道，辖27县。1914年岱北道改称济南道，辖县未变。
1925年改辖历城、章丘、长清、济阳等10县。1929年7月，析历城县城厢及其四郊，正式设立济南市。时济南市面积175平方公里，人口40余万。
1948年9月，中国人民解放军华东野战军解放济南，设立济南特别市。1949年5月复称济南市。中华人民共和国建立后，经历了漫长的原始、奴隶、封建社会的济南。
开始进入社会主义新时代。1958年，历城县划归济南市。其后，章丘、长清县于1978年，平阴县于1985年，济阳、商河县于1990年陆续划归济南市管辖。
1994年2月，济南市被正式确定为副省级城市。2016年12月，章丘撤市设区。济南市现辖7区3县。
