培養音樂專門人才的高等音樂學府。中央文化部直屬重點藝術院校之一。其教學任務是：培養具有高度音樂水準和全面修養的音樂專門人才，畢業後能勝任音樂創作、指揮、演唱、演奏、理論研究或藝術院校的教學工作。
上海音樂學院的前身是創立於1927年的國立音樂院，1929年9月改名國立音樂專科學校，是中國最早建立的一所高等音樂學府。中華人民共和國成立後，先後於1950、1952年改名為中央音樂學院上海分院、中央音樂院華東分院。50年代在全全國高等學校院系調整中，先後有福建音樂專科學校、金陵女子大學文理學院音樂系和華東師范大學音樂系的大部分並入該院。1956年定名為上海音樂學院，原任院長賀綠汀，現任院長桑桐。
該院設有作曲指揮、民族音樂、音樂學、聲樂、管弦、鋼琴6個系，包括作曲、作曲理論、樂隊指揮、合唱指揮、聲樂、民族民間演唱、管樂、弦樂、打擊樂、提琴制作、鋼琴、民族音樂理論、民族樂器、中國音樂史、外國音樂史等15個專業。其中本科作曲、理論、指揮、聲樂各專業學制5年，樂器演奏各專業學制4年。另設有3年制少數民族班，2～3年制幹部專修科和夜校部。各系均招收研究生和外國留學生。
同時，該院還附設有6年制的中等音樂專科學校及3年制的音樂小學。70年代中期成立系、處一級的科研機構音樂研究所，重點從事中國音樂史、外國音樂史、音樂民族學、音樂美學、音樂教育學的研究工作。1979年又成立瞭學術委員會、藝術實踐委員會、創作委員會及科研處，以推動和促進學術交流、創作、演出、教學研究等活動。同年起編輯、出版學報《音樂藝術》(季刊)及叢書，在國內外公開發行。學院的圖書館和唱片室，分別藏有圖書樂譜15萬冊及唱片、磁帶近7萬件。另有面向校內外的附屬樂器工廠一所，現已能生產豎琴、高級小提琴等樂器，並從事各種民族樂器的改良和試制工作。
據1985年10月統計，學院共有教職員工790人，其中教師429人（教授16人，副教授46人，講師203人，助教164人），在校本科學生、專修進修生、研究生、留學生等549人，附屬中、小學學生302人。30多年來先後在該院擔任教職的著名音樂傢有丁善德、譚抒真、周小燕、沈知白、衛仲樂、楊嘉仁、錢仁康、鄧爾敬、桑桐、陳銘志、李翠貞、范繼森、吳樂懿、李嘉祿、李名強、陳又新、朱起東、竇立勳、應尚能、洪達琦、勞景賢、蔡紹序、高芝蘭、葛朝祉、王品素、馬革順等。
上海音樂學院一貫重視嚴格的基本訓練，遵循音樂人才要從小培養的規律，從1951年起試辦少年班，1954年創辦附屬中等音樂專科學校和附屬音樂小學，從而形成瞭從小學、中學到大學“一條龍”的音樂教育體制，保證瞭大學本科的學生來源和招生質量。
鑒於教師在教學過程中所處的主導地位及其對教學質量的決定性作用，學院致力於建設一支學有專長並不斷向更高層次突進的教師隊伍。教學中，既堅持嚴格的基本訓練，又註意完善學生的知識結構，全面提高學生的文化、藝術修養。尊師愛生、勤學苦練已成為該院的傳統風格之一。在理論研究、著述方面，全院師生共出版的論著、譯著達200多種。其中較重要的有：賀綠汀的《賀綠汀音樂論文選集》，沈知白的《中國音樂史綱要》，丁善德的《單對位法》、《復對位法》、《賦格寫作技術》，錢仁康的《柴可夫斯基主要作品選釋》、《音樂欣賞講話》（上、下冊），桑桐的《和聲的理論與應用》（上、下冊）、《和聲學專題六講》，陳銘志的《賦格曲寫作》，馬革順的《合唱學》，夏野的《戲曲音樂研究》，胡登跳的《民族管弦樂法》，江明惇的《漢族民歌概論》等；較重要的譯著有《配器法》（W.辟斯頓）、《音樂基本理論》（И.B.斯波索賓）、《論鋼琴表演藝術》(Γ.Γ.涅高茲)、《拉丁美洲音樂》（И.斯洛尼姆斯基）、《音樂語言》(庫克)等。1959～1979年，學院承擔瞭《辭海》音樂釋文的編寫、定稿工作，為新中國第一部大型綜合性辭書作出瞭應有的貢獻。
自1949～1984年，上海音樂學院已有大專畢業生3721人，他們分佈於全國各地，其中不少人已成為音樂院校、文藝團體的領導人員和業務骨幹。才旦卓瑪、王酩、施鴻鄂、陳燮陽、閔惠芬、湯沐海、葉聰等已成為國內外知名的音樂傢。在國內外各種音樂比賽中，有130多人次獲獎。
30多年來，該院師生還創作瞭不少具有國內、國際影響的音樂作品。如何占豪、陳鋼的小提琴協奏曲《梁山伯與祝英臺》，丁善德的交響曲《長征》、《兒童鋼琴組曲》，施永康的交響詩《黃鶴的故事》，劉施任的交響大合唱《祖國頌》，蔣祖馨的鋼琴組曲《廟會》，桑桐的《內蒙古民歌主題鋼琴小曲七首》、大提琴獨奏《幻想曲》，汪立三的鋼琴曲《藍花花》，張敦智的交響合唱《森林日記》，許舒亞的《第一小提琴協奏曲》等。