上海音乐厅建于1930年，原名南京大戏院，是上海第一家放映外国影片的戏院。1949年，改名为北京电影院，仍以上映福克斯、米高美等电影公司的电影为主。1959年，正式改为上海音乐厅。
上海音乐厅大厅为长方形结构，共2层观众席。早年为观看电影所用，有1540座。其后，在由北京电影院改名为上海音乐厅的过程中，进行了重大整修，填掉了原乐池，拆除了前排的一些位子，增加舞台深度以满足乐队演出要求。1973年和1991年又有过两次大修，平移工程前有座位1122座，排间距85到90公分。平移修缮后，演出厅一楼后区更改为阶梯状，座位总数调整成1200个，其中前八排之间排间距98公分。数十年来演出厅见证了无数知名音乐家和各种形式音乐会在舞台上的成功表演，也经历了八十年代古典音乐热的壮观场面。
南京大戏院（上海音乐厅前身）修建时阴差阳错，本该不超过0.8秒的电影放映混响时间最后成了1.5秒，同济大学建筑系声学所教授王季卿说，“一般而言，窄靴子型的音乐厅音效最佳，有助于增强早期反射声，使乐音更清晰，更集中，而南京大戏院碰巧吻合，造型相似，音质当然好”，“判断音乐厅优劣的最重要指标是混响时间，混响时间长，乐声就丰满圆润，相反则单调干瘪，但如果过长的话，又会影响清晰度。”著名指挥家陈燮阳到过全球无数音乐厅，他认为“除了顶级的维也纳金色大厅、阿姆斯特丹音乐厅、波士顿音乐厅这三家外，在音质上，上海音乐厅可以和任何音乐厅一较高下。”
上海音乐厅建筑属上海少有的欧洲传统风格。走进休息大厅，映入眼帘的是十六根合抱的赫色大理石圆柱，气度不凡。观众厅的构图明确规范，复杂而不零乱，变化而又富有层次，色彩淡雅庄重，与其演绎的古典音乐有着惊人的统一。其自然音响之佳，既得到建筑学专家的首肯，更为众多中外艺术家的认同。著名小提琴家斯特恩、阿卡多、祖克尔曼；钢琴家拉萝查、傅聪，殷承宗以及费城交响乐团、香港管弦乐团、中国交响乐团等均来此表演并获得很大成功。