上海市历史博物馆是综合反映上海地方历史的地志性博物馆。上海地志类博物馆筹建工作始于上世纪五十年代的上海历史与建设博物馆。1983年建成 “上海历史文物陈列馆”，1991年7月改现名。

1983年，上海历史文物陈列馆暂借西郊上海市农业展览馆第五馆作为临时馆址，1984年5月27日正式对外开放。陈列馆通过一千三百多件文物、文献以及图片等资料，综合展示了上海从远古到1949年上海解放这一漫长的历史画面。

1991年10月，上海市历史博物馆在虹桥路1286号全新开馆，基本陈列为“近代上海城市发展历史陈列”，展出文物1500余件，分六个部分，全面地展示了自1843年开埠到1949年解放的百年上海风貌，内容涵盖近代上海租界的开辟和消亡，市政面貌的日趋改善，经济的迅速崛起，文化的日益繁荣，移民社会独特的民俗风情以及百年来的政治风云。该陈列被国家文物局评为全国文物博物馆系统首次“十大陈列展览精品”之一，因租赁期满于1999年3月关闭。

2001年5月，由上海市历史博物馆筹建之“上海城市历史发展陈列馆”于东方明珠广播电视塔裙房内向社会开放。陈列馆分“华亭溯源”、“城厢风貌”、“开埠掠影”、“十里洋场”、“海上旧踪”五个部分。主要以场景和模型的艺术手法，辅以音响、多媒体资料查询装置及多媒体影视模型合成装置等展示手段，以城市建筑发展为主要线索，反映自古至今上海从一个滨海渔村发展为中国最大的工商都市的过程，突出地反映了近代上海在政治、经济、文化、社会、生活等各个方面的历史演变。2003年1月，上海市历史博物馆被上海市人民政府命名为“上海市爱国主义教育基地”。近年来，上海市历史博物馆举办了大量的临时展览和流动展，如“孙中山与上海——文物文献档案展”、“摩登都会——沪港社会风貌”展、“东风西渐——欧洲瓷器展”，取得了十分良好的社会反响和效益。在把各式展览推向社会的同时，上海市历史博物馆还多次举办“名家谈上海”系列公益性讲座，宣传了上海地方历史和文物博物馆知识，取得了较好的社会效果。

上海市历史博物馆藏品总数约11万件，分十五大类：书画、金属、陶瓷、工艺、证章、文献、印刷、纺织品、石刻、钱币、照片、剪纸、邮票、唱片和其他杂项等。其中1841年江南提督陈化成督造的振远将军铜炮、1880年吴猷豫园宴乐图轴、1895年英商道白生公司制清花机、清末点石斋画报原稿、1911年民国总统候选人提名及当选人斗方、1923年上海汇丰银行铜狮、民国百子大礼轿、民国柳亚子主编《上海通志稿》稿本、老上海地图、《徵信录》等都是馆藏重要文物。

上海市历史博物馆长期坚持开展对上海地方文物历史、民情风俗、人文环境、城市变迁、博物馆学等方面的学术考察与研究，编辑出版了大量书籍。自2002年起，编辑出版《上海市历史博物馆馆刊》。2007年，上海市历史博物馆成为中国博物馆学会城市博物馆委员会主任委员会单位。作为国际博协城市博物馆专业委员会(ICOM-CAMOC)的主要成员，上海市历史博物馆积极开展与国内外城市博物馆的合作，为推动城市博物馆的发展作贡献。

上海市历史博物馆的新建项目作为“十二五时期重大文化项目”已被列入上海市“十二五”规划。新的历史博物馆是一座充分反映上海历史发展轨迹的地方志博物馆，定位于全面展示上海古代史与近代史文物，一座为公共开放服务的崭新博物馆已经亮相城区。