Родился 3 ноября 1949 года в городе Копейске Челябинской области. В 1957 году вместе с семьёй переехал в Москву. 

Музыкальное образование получил в музыкальной школе по классу скрипки, которую окончил в 1967 году. В 1974 году завершил обучение в Государственном музыкально-педагогическом институте имени Гнесиных по специальности «оперный и концертно-камерный певец». Позднее изучал композицию в Московской государственной консерватории имени П. И. Чайковского.

Музыкальную карьеру начал в 1963 году. В разные годы выступал в составе музыкальных коллективов, а в 1966 году основал рок-группу «Скоморохи», ставшую одной из заметных страниц в истории отечественной рок-музыки.

Широкую известность ему принесло исполнение песни «Как молоды мы были» на музыку Александры Пахмутовой и слова Николая Добронравова. За годы творческой деятельности Градский написал более 200 песен, выпустил десятки музыкальных альбомов, создал рок-оперы «Стадион» и «Мастер и Маргарита», музыку к балетам и более чем 20 кинофильмам.

Особое место в его творчестве занимала работа в кинематографе. Среди известных картин, к которым он написал музыку, - «Романс о влюблённых» и «В августе 44-го…».

Александр Градский также проявил себя как театральный деятель и педагог. С 1989 года руководил Московским театрально-концертным музыкальным объединением. 

За вклад в отечественную музыкальную культуру удостоен званий заслуженного деятеля искусств Российской Федерации (1997) и народного артиста России (1999), Государственной премии Российской Федерации в области литературы и искусства (1998).

Его творчество оставило заметный след в истории отечественной музыки, объединив рок, академический вокал, театральное искусство и поэзию.