Анатолий Рыбалко родился в 1974 году в Ленинграде. Окончил Санкт-Петербургское музыкальное училище имени Н. А. Римского-Корсакова и Санкт-Петербургскую государственную консерваторию по специальностям «хоровое дирижирование» (класс Елизаветы Кудрявцевой) и «оперно-симфоническое дирижирование» (класс Равиля Мартынова). Лауреат I Всероссийского конкурса хоровых дирижеров.
С сезона 2013/14 – художественный руководитель и главный дирижер Симфонического оркестра Карельской государственной филармонии, с которым дал множество концертов на лучших концертных площадках России и за рубежом. Постоянный участник ежегодных фестивалей классической музыки в Республике Карелия – «Онего-Классик» и Ruskeala Symphony.
С 1996 года преподает на дирижерско-хоровом отделении Санкт-Петербургского музыкального училища, с 2011 года – в Санкт-Петербургской консерватории.
С 2002 года – дирижер театра «Зазеркалье», где при его участии состоялись постановки опер «Джанни Скикки» Пуччини, «Директор театра» Моцарта, «Газета, или Брак по объявлению» Россини, «Шинель» Ильи Кузнецова и «Оперы о том, как поссорились Иван Иванович с Иваном Никифоровичем» Геннадия Банщикова (последние две вошли в спектакль «От Петербурга до Миргорода»).
Сотрудничает с Заслуженным коллективом России Академическим симфоническим оркестром Санкт-Петербургской филармонии, Академическим симфоническим оркестром Санкт-Петербургской филармонии, Санкт-Петербургским государственным академическим симфоническим оркестром, Оркестром Государственного Эрмитажа, Симфоническим оркестром Государственной академической капеллы. С 2006 года выступает в абонементных концертах Большого зала Санкт-Петербургской филармонии. Также выступал в различных городах России с оркестрами Новосибирска, Красноярска, Кисловодска, Уфы.
В 2007–2008 гг. работал в Театре оперы и балета Санкт-Петербургской государственной консерватории. Под его управлением в театре прошли два премьерных спектакля: возобновление балета «Жизель» Адана и премьера спектакля «Вечер хореографических миниатюр».
С 2008 года – приглашенный дирижер Михайловского театра. Осуществил постановку балета «Корсар» и участвовал как дирижер-ассистент в постановках спектаклей «Ромео и Джульетта», «Паяцы», «Летучий голландец» и «Евгений Онегин». Дважды принимал участие в гастролях Михайловского театра по Японии.
В 2009 году записал саундтрек к фильму «Последнее воскресение» (композитор – Сергей Евтушенко).
С 2011 года – дирижер Государственного симфонического оркестра Санкт-Петербурга.
Лауреат года Республики Карелия (2016). В 2017–2018 гг. осуществил постановки оперы «Карельский пленник» Ильи Кузнецова и балетов «Лебединое озеро» Чайковского и «Коппелия» Делиба на сцене Музыкального театра Республики Карелия.