По своим акустическим характеристикам Большой зал Консерватории считается одним из лучших в мире. Здесь выступают всемирно известные солисты и музыкальные коллективы. Большой зал – место проведения музыкальных фестивалей и конкурсов (в том числе с 1958 года – Международного конкурса имени П. И. Чайковского).

Инициатором строительства нового здания Московской консерватории и её грандиозного Большого зала на 1737 мест был В. И. Сафонов, выдающийся русский музыкальный деятель, возглавлявший Консерваторию на протяжении 17 лет.

Здание строилось по проекту архитектора В. П. Загорского. Двусветный Большой зал был украшен портретами-медальонами русских и западноевропейских композиторов, арку сцены увенчал барельеф основателя Московской консерватории Н. Г. Рубинштейна. Скульптурные работы выполнил А. А. Аладьин, а портреты-медальоны – художник Н. К. Бондаревский. На сцене Большого зала был установлен признанный одним из лучших в мире орган парижской фирмы «Кавайе-Коль» (1899), подаренный меценатом С. П. фон Дервизом. Фойе партера украсил витраж с изображением Святой Цецилии – покровительницы музыки, который во время бомбардировок Великой Отечественной войны был утрачен.

Большой зал Консерватории открылся 7 (20) апреля 1901 года. Торжественный концерт начался с гимна «Воздвигнут храм искусству дорогому». Оценивая достоинства нового концертного зала, присутствовавший на его открытии органист Шарль-Мари Видор в том же году напечатал свой лестный отзыв на страницах парижского «Менестреля»: «Из всех известных концертных залов этот кажется мне наиболее удачным в акустическом отношении. Мощь и очарование оркестра, великолепие органа, лёгкость и красота человеческого голоса, полнота звучания фортепиано или арфы передаются в нём с несравненной отчётливостью».

Большой зал в истории Москвы – больше, чем просто концертный зал. Во время Первой мировой войны (в 1915–1917 гг.) здесь располагался военный госпиталь, а с 1924 по 1933 г. в дневные часы Большой зал был популярным кинотеатром.

В 1954 г. перед ним был открыт памятник П. И. Чайковскому, чьё имя Московская консерватория гордо носит с 1940 г.

Решением Ученого совета от 28 ноября 2006 г. корпусу Большого зала присвоено имя основателя Московской консерватории Н. Г. Рубинштейна.

В 2010–2011 гг. во время реставрационных работ Большому залу был возвращен его первоначальный облик, и восстановлен витраж «Святая Цецилия».