Открытие одного из самых уютных залов Москвы — Малого зала консерватории — состоялось 25 октября (7 ноября) 1898 года и ознаменовалось «Музыкальным утром памяти Чайковского» — в связи с пятилетием со дня смерти великого русского композитора.
До 1959 года в Малом зале стоял орган мастера Фридриха Ладегаста, подаренный консерватории еще в 1886 году. Современный орган был заказан в ГДР у фирмы Alexander Schuke Potsdam Orgelbau GmbH.
Идеальный по акустике Малый зал славится своими камерными концертами, притягивая многих любителей музыки. Также здесь проводятся классные вечера, различные конкурсы и фестивали (в том числе Конкурс имени П. И. Чайковского).
Решением ученого совета от 28 ноября 2006 года корпусу Малого зала (первый учебный корпус) присвоено имя композитора С.И. Танеева.