Илья Груберт родился в Риге. Музыке начал учиться в Музыкальной школе имени Эмиля Дарзиня, а в 14 лет продолжил занятия в Московской государственной консерватории у выдающихся педагогов – сначала у Юрия Янкелевича и Зинаиды Гилельс, а затем у Леонида Когана.
Первым международным успехом Ильи Груберта стала победа на Международном конкурсе скрипачей имени Яна Сибелиуса в Хельсинки в 1975 году. Впоследствии он получил первые премии еще на двух престижных международных состязаниях имени Паганини в Генуе и имени П.И.Чайковского в Москве 1978 году.
В дальнейшем карьера Ильи Груберта стремительно развивалась. Он играл с лучшими симфоническими коллективами мира, включая Оркестры Московской и Санкт-Петербургской филармоний, Государственный академический симфонический оркестр России имени Е.Ф.Светланова, Оркестр Дрезденской Штаатскапеллы, Амстердамский и Хельсинский филармонические оркестры, сотрудничал с такими выдающимися дирижерами, как Геннадий Рождественский, Максим Шостакович, Йоэль Леви, Вольдемар Нельсон и Марис Янсонс, выступал с гастролями в США, Канаде, Австралии и Европе.
Илья Груберт записал диски с произведениями Сибелиуса, Чайковского, Бруха и Прокофьева. В январе 1996 года он был удостоен приза «Золотой Камертон» за исполнении концертов Сибелиуса и Бруха. Его последние диски, выпущенные компанией NAXOS в январе 2007 года, включили виртуозные произведения Г.Эрнста («Концертино», «Рондо Папагено», «Фантазия Отелло»).
В настоящее время музыкант живет в Голландии, преподает в Амстердамской консерватории. Илья Груберт играет на скрипке 1740 года работы Пьетро Гварнери, ранее принадлежавшей Генрику Венявскому.