Анатолий Гринденко родился в 1950 году в Харькове. Учился в специальных музыкальных школах Москвы и Санкт-Петербурга, затем окончил Московскую государственную консерваторию им. П.И. Чайковского.
После окончания консерватории много концертировал как исполнитель на виоле да гамба в России и за рубежом, в том числе со своей сестрой Татьяной Гринденко (скрипка) и Алексеем Любимовым (клавесин), завоевав широкую известность как виртуозный исполнитель-солист и как участник различных ансамблей. В составе Московского барокко-трио «Орфарион» (с 1986 года) выступал на фестивалях старинной музыки в Утрехте (Нидерланды), Шопроне (Венгрия), в Испании, Риге, Таллине, на Баховском фестивале в Лейпциге и на многих других фестивалях.
В 1982 годус целью восстановления древнерусского церковного пения организовал хор из числа учащихся семинарии и духовной академии в Троице-Сергиевой Лавре. Позже основал хор в только что открывшемся Свято-Даниловом монастыре в Москве. Как дирижер А. Гринденко работает с различными монастырскими хорами, а также светскими коллективами в России и за рубежом. Дает мастер-классы.
В 1998 году в Париже, совместно с заслуженным реставратором России А. Н. Овчинниковым, А. Гринденко опубликовал книгу Divine Harmony, посвященную древнерусской иконе и Богослужебному пению в Древней Руси.