Анатолий Рыбалко родился в 1974 году в Ленинграде. Окончил Санкт-Петербургскую государственную консерваторию имени Н. А. Римского-Корсакова по специальностям «хоровое дирижирование» (класс Елизаветы Кудрявцевой) и «оперно-симфоническое дирижирование» (класс Равиля Мартынова). Лауреат I Всероссийского конкурса хоровых дирижеров.
С 2002 года – дирижер театра «Зазеркалье». В 2007–2008 гг. работал в Театре оперы и балета Санкт-Петербургской государственной консерватории.
С 2008 года – приглашенный дирижер Михайловского театра. Осуществил постановку балета «Корсар» Адана и участвовал как дирижер-ассистент в постановках спектаклей «Ромео и Джульетта» Прокофьева, «Паяцы» Леонкавалло, «Сельская честь» Масканьи, «Летучий голландец» Вагнера и «Евгений Онегин» Чайковского. Дважды принимал участие в гастролях Михайловского театра по Японии.
С 2011 года – дирижер Государственного симфонического оркестра Санкт-Петербурга. С сезона 2013/14 – художественный руководитель и главный дирижер Симфонического оркестра Карельской государственной филармонии.
Сотрудничает с Заслуженным коллективом России Академическим симфоническим оркестром Санкт-Петербургской филармонии, Академическим симфоническим оркестром Санкт-Петербургской филармонии и другими коллективами. С 2006 года выступает в абонементных концертах Большого зала Санкт-Петербургской филармонии. Также выступал в различных городах России с оркестрами Новосибирска, Красноярска, Кисловодска, Уфы, Саратова, Ростова-на-Дону.
Приглашенный дирижер Музыкального театра Республики Карелия, на сцене которого осуществил несколько постановок оперных и балетных спектаклей.
В 2009 году руководил записью саундтрека к немецко-британско-российскому фильму Майкла Хоффмана о Льве Толстом «Последнее воскресение» (композитор – Сергей Евтушенко).
Доцент кафедр оперно-симфонического и хорового дирижирования Санкт-Петербургской консерватории.
Удостоен почетного звания «Заслуженный артист Республики Карелия».