1812年11月29日，在一个贵族妇女协会所举办的慈善音乐会结束之后，当时的皇家剧院秘书 Joseph von Sonnleithner 利用大众对音乐的热爱之势成立了“奥地利皇家音乐之友协会”。该会的宗旨是“发扬音乐各方面的美，协会本身的运作及享受为次要”。音乐会的举办、音乐院 （本大学的前身） 的设立及今日举世知名的音乐文物收藏都是在这个终极目标之下推动成功的。Ignaz von Mosel 是当时倡议成立音乐院最力者之一。他在1815年时草立了一份综合音乐学校的成立计划，计划中学校将有各演奏科系研究所及自己的图书馆。
首先在Antonio Salieri 的领导下成立了声乐班，目的是要为协会的合唱团训练新进团员。直至1817年才正式开始有计划的教学，在“红苹果屋” （今日Singerstrasse 3） 共有两个班。1819年小提琴班成立，开启了器乐教学时代，管弦乐团中的各乐器先后加入。（钢琴自1833年起才成为独立的主修科目，管风琴迟至1868年）
在短期租用“Grundhof”（今天Bauernmarkt 4） 房舍之后，协会购买了“红棘猬屋”（Zum Roten Igel，今日Tuchlauben 12 号）。经过多年的整合后音乐院及图书馆进驻此处，其中的演奏厅是维也纳第一个公众演奏场所。在1869年搬到新的音乐之友协会建筑之前，协会所有的活动都在此进行。
为了能够免费提供多面的音乐教育，音乐院的财务很快地面临了困难。因此1831年起开始招收自费学生。1832年成立了一个师资训练班，也是今日音乐教育科的起始。1836年舞蹈班成立。
由于财务的问题无法克服，在1841年时第一次出现了将音乐院国有化的想法。1848年的革命使音乐院停止运作了三年，直至1851年的十月一日，在国家及市政府的经济补助下重新开始教学活动。同时期的另一所“音响艺术专科学校”只在1849至1855年间存在。
音乐、舞蹈及表演是教学的重点。在之后的四十年中音乐之友协会音乐院获得了国际间的重视。维也纳的器乐教育得到世界上领导地位，当时校中的教师、学生多人在音乐及戏剧界成为重要的代表人物。
1852/53学年度成立的演讲班开启了演艺人员的教育史新页。此后陆续开办了相关课程，如表情及舞蹈方面的训练。1853年起针对歌剧演员也有了专业课程。
1862/63学年度音乐院获得授权可以颁发国家考试成绩单给师范生及音乐老师。1896年时教育部通过了章程，准许音乐院自行设课训练师资，但仍受该部监督。
1870年重新修订授业课程时首度将每班的学生人数降低，规定在各主修科目正式班上一班八人，预备班十六人，学生由预备班升至正式班时必须通过晋级考 （Uebertrittspruefung）。1873/74学年度时成立了一所两年制的演员学校，该校直到1909年改制为国立学校前一直与音乐院共用同一个行政组织、校长及行政人员。1909年起音乐院再度开办演艺班。
随著经费补助的增加，国家对音乐院的影响力也加大。当1907年校内的教职人员向政府要求得到与国家教师相同的地位与待遇时，全面国家化已是势在必行了。1909年一月一日国家完整接收了学院中的70名教师及877名学生，正式将之更名为“皇家音乐暨表演艺术学院”（K.u.K. Akademie fuer Musik und darstellende Kunst）。至于文物的收藏，包括图书馆，则由协会继续保有。
关于教学内容则增加了科学研究课程、乐器课程及指挥班等。1910/11学年学院与国家及教会达成协议，成立了教会音乐组，免费使用Klosterneuburg修道院作为教学场所。1924年时该组迁至维也纳Franziskaner修道院，并与在1928年成立的音乐教育研习会合并，于1933年改名为教会及学校音乐组。1938年两组又分开，1945年重新合并，自1947起再度分别独立为两组。
1913年位于Lothringerstrasse的学院建筑落成，学院顺利迁址。歌剧组在一月廿八日以威尔第的“假面舞会”在学院剧场（Akademietheater）公演来庆祝。二月四日演艺班公演，十三日为首场交响乐演出。
1912/13学年度课程修订的同时演艺及歌剧科的学程延长为三年，所有器乐延长为四年。
自从改制为国立学校后学院的组织没有什么大变动，直至1918/19学年度才有了改革。自从1909年学院一直是由一位总裁、一位校长及一个委员会管理。当年一个由教师所发起的改革使学校改由一位由教育委员会选出的校长领导，委员会在许多事务上保有参议权。1920年起学院改名为“国家音乐暨演艺学院”（Staatsakademie fuer Musik und darstellende Kunst）。
1923年七月十三日国会修定新法，决定成立一所音乐暨演艺高等学院。该法在次年十月一日生效。该学院的功能是定位在艺术方面的最高学府，供原有音乐院毕业生继续深造。这段时期两所学校并存，但很快地人员及组织上的问题就浮现了。1931年时的修法把高等学院废除，并将其功能并到原有的音乐院中。
1924年时国家学院增加了一个艺术舞蹈班，这是日后舞蹈组的前身。1928年 Max Reinhardt 组织了一个演艺及导演研习班，编组在高等学院之下，并在美泉宫的皇宫剧场中有自己的练习舞台，可惜高等学院废除后这个研习班未能改编到国家学院下，但该班的教学并未停止，它以“学院的附属机构”，但为私立演艺及导演研习班的形式继续存在，直到1939年被并入学院的“美泉宫戏剧组”之下为止。该组1940年迁至今日Penzinger Strasse 9 号的 Palais Cumberland，并重新使用 Max Reinhardt 的名称。
1933至38年学院院长是由一位教育部派任的校长担任领导工作，并由教育组主任、教会暨学校音乐组主任及一个无给职的委员会辅助，委员会中包含了当时国家歌剧院及国家戏剧院的院长。校中的人事及组织是以1933年五月卅一日的一纸行政命令规范，直到1948年“艺术学院法”通过，学院才有了正式的法源。
1938至45间纳粹帝国教育部将学校改名为帝国学院，院长也是由其指派。1945年之后学院恢复自由，并在1947年三月七日依教育部行政命令改回原名。次年六月卅日高等学院法修正增加了艺术高等学院类别，自此之后音乐暨演艺学院 （Akademie fuer Musik und darstellende Kunst） 有了高等学院的位阶，学院生及大学生的教育不再有任何人员或组织上的不同。学院教师所推举，由教育部任命的院长同时是行政及教育的首长及对外的代表。每年各组所选出的主任组成教师委员会辅助校长。艺术学院法施行的同时也造成了校中组织的变动，分为九个组。1951/52学年成立的电影特别课程在次年改制为电影艺术班，并在1966年独立为第十组。1975年八月廿五日联邦科学研究部以行政命令解散了舞蹈组，该组在1978正式停止授课。
战后不久教学空间不足是个急迫问题，学校解决的方式是将各组分散。舞蹈班在1950/51学年时迁至美泉宫的卫队营区，声乐组迁至Metternichgasse 8号的 Palais Springer。学院在1960/61学年度将位于Seilerstaette 26号及Johannesgasse 8号的前Ursulinen修道院买下，花了几年重整改建后拨交给第三、四、六组及指挥班使用，部分作为学生宿舍。1965/66学年度整修了位于 Metternichgasse 12号的电影组建筑。
以学生及教师人数的增长来看，这些针对空间问题采行的措施并不能符合音乐大学持续发展的需要，故校舍的购买及租赁必须不断地进行。除了上述题到的地点（Lothringerstrasse 18、Singerstrasse 26、 Penzinger Strasse 9 与练习舞台、美泉宫皇宫剧院、美泉宫卫队营区 （舞蹈组解散后是音乐教育组）、Metternichgasse 8 （1981年声乐组搬走后是音乐教育组使用）、Seiterstaette 26及Metternichgasse 12） 之外，下列地点陆续加入学校的版图：Johannesgasse 8 （1964）、Paniglgasse 5 （1973至1999）、Maxingstrasse 13a （1975年起，电影摄影棚）、Seiterstaette 15 （1980）、Penzinger Strasse 7 （1981起，声乐组）、Boesendorferstrasse 12 （音乐之友协会华格纳厅，1981年起键盘乐器组）、Ruebiesslgasse 12 （1983起，电子音响学及实验音乐组）、Karlsplatz 2 （1987起，文化管理研究所）、Schubertring 14 （1987起，音乐教育组）、Rennweg 8 （Salesianerinnen 修道院一部分，1988年起音乐教育组）、Singerstrasse 26 （1990年起弦乐组及管乐暨打击乐组）、Heumarkt 13 （1990年起图书馆藏书处）、Schoenburgstrasse 27 （1993至99 键盘乐器组）、Schwarzenbergplatz 6 （1999年夏起Arnold-Schoenberg研究所）。1996年八月学院校本部开始迁往前兽医大学所在地，维也纳第三区Anton-von-Webern-Platz 1 / Ungargasse 14。1999年行政中心正式迁至此地，原Paniglgasse 5号及Schoenburgstrasse 17号在同年停止使用。目前音乐大学共使用廿栋建筑，分散在维也纳各地。
1964/65学年度学院的学程延长，分别是舞蹈及演艺延为四年，声乐及器乐延为八年。接著的几年中成立了许多科学研究特别课程，与联邦音乐学生文理高级中学的合作也日渐加强。（Bundesoberstufenrealgymnasium fuer Studierende der Musik, 俗称音乐高中，Musikgymnasium）1970年一月廿一日通过，同年八月一日施行的“艺术高等学院组织法”（KHOG） 以及次年二月三日颁布的艺术高等学院施行细则将各艺术学府 （Akademie及Hochschule） 与各大学列在同等位阶，并授予各学院行政自治权。国会下议院在1983年三月二日通过的艺术高等学院修业法 （KHStG） 规范了奥地利六所艺术学院的课程准则。1997年八月一日起学院中的师范课程改依大学修业法 （UniStG） 授课，以取代旧版的高等学院修业法 （AHStG）。
1998年八月一日大学修业法修正案施行，这是奥地利大学史上第一次由一部统一的法律规范所有大学的修业。之后的一次修法成立了以往没有的学士课程，在1999年九月一日生效。
1998年十月一日起联邦艺术大学组织法的施行使维也纳国立音乐学院与其他艺术学院正式升格为大学。
1909年成立后就不断扩充的大学图书馆反映出本校的教学及研究历程，它是一所艺术科学的专业图书馆，由一位馆长领导，直属科学部。