Анатолий Гринденко родился в 1950 году в Харькове. Обучался игре на скрипке в ленинградской ССМШ (класс Бориса Сергеева) и московской ЦМШ (класс Юрия Янкелевича), затем перешел на контрабас. В 1974 году окончил Московскую государственную консерваторию имени П. И. Чайковского. В студенческие годы увлекся исполнением старинной музыки и начал играть на виоле да гамба. С 1971 года – солист ансамбля старинной музыки «Мадригал».
Концертировал в России и за рубежом с Алексеем Любимовым, Татьяной Гринденко, Олегом Худяковым, Андреем Решетиным, Владимиром Федотовым, Назаром Кожухарем. В составе московского трио «Орфарион» и международного барочного трио «Треата» выступал на фестивалях стариной музыки в Нидерландах, Венгрии, США, Ирландии, Испании, Германии (Баховский фестиваль в Лейпциге), прибалтийских странах.
В конце 1970-х годов оставил светскую карьеру и несколько лет работал в Троице-Сергиевой Лавре, где в 1980 году организовал хор из числа учащихся семинарии и духовной академии. Там же изучал иконопись под руководством реставратора Адольфа Овчинникова.
В 1984 году основал первый монастырский хор в московском Свято-Даниловом монастыре, в 1985 по благословению архиепископа Питирима организовал мужской хор «Древнерусский распев» при Издательском отделе Московского Патриархата. Коллектив под управлением Анатолия Гринденко стал победителем хоровых фестивалей в Хайнувке (Польша, 1988) и «Охридское лето» (Македония, 1992); выступал в Европе (в том числе на фестивале «Безумный день» в Нанте, Пасхальном фестивале в Равенне), США и Японии; за укрепление межконфессиональных связей награжден орденом Палестинского (бывшего Императорского) общества в Иерусалиме (1993). Хором выпущено 18 CD во Франции, Германии, Польше и России, отмеченных высшими оценками международных экспертов, включая журнал Diapason.
Анатолий Гринденко сотрудничал также с другими отечественными и зарубежными коллективами, включая хоры «Латвия», «Рам» (Эстония), хор Гранд-Рапидса (США). В настоящее время музыкант продолжает работать с хором, играть в составе ансамбля «Мадригал», а также осуществляет проекты камерной музыки.
Анатолий Гринденко пользуется заслуженным авторитетом среди ученых-медиевистов многих стран, является автором книг Divine Harmony (Париж, 1998) и «Записки регента» (Москва, 2017).