上海历史博物馆分为4层。分别如下:
一楼:古代青铜馆,陈列了400余件古代青铜馆精美的青铜器,包括西周的晋候器和秦国早期秦公器等重要文物;古代雕塑馆,除陈列部分木雕、陶塑外,以石刻塑像为主,这里有北魏、北齐、北周和隋唐雕塑,以及南石刻、金铜佛像等。
二楼:古代陶瓷馆,有新石器时代的彩陶和灰陶、商周及春秋战国时代的原始青瓷、东汉时代的的青瓷,还有唐朝的唐三彩。
三楼:历代书法馆,集中了中各个时期的典型名作,系统地展示了中国书法艺术的历史轨迹。
四楼:少数民族工艺馆,集中陈列了少数民族的服饰工艺、染织绣、金属工艺、雕刻品、陶器、漆器、藤竹编和面具艺术等近600件。