В рядах Красной Армии с 1925 года. По окончании в 1929 году Закавказской военно-пехотной школы, служил в Закавказском Военном Округе командиром взвода, секретарём партбюро отдельного батальона, командиром роты, батальона, помощником начальника штаба полка и начальником отделения штаба пункта ПВО в г. Баку. С октября 1938 года А.Х. Бабаджанян - помощник командира пулемётного полка в Ленинградском Военном Округе. Участник советско-финляндской войны 1939- 1940 годов.
На фронтах Великой Отечественной войны с июля 1941 года. В ходе Московской битвы командовал стрелковым полком. В августе 1942 года, после окончания ускоренного курса Военной академии им. М.В. Фрунзе, Бабаджанян А.Х. назначен на должность командира механизированной бригады 1-й танковой армии. Принимал участие в Курской битве.
Соединение комбрига Бабаджаняна А.Х. особо отличилось в ходе Проскуровско-Черновицкой операции. Воинами бригады, совместно с другими частями 1-го Украинского фронта была прорвана оборона противника и с 22 по 24 марта 1944 года освобождены города Правобережной Украины: Трембовля, Копычинцы, Чертков и Залещики. Приказом Верховного Главнокомандующего И.В. Сталина 20-й гвардейской механизированной бригаде полковника А.Х. Бабаджаняна присвоено наименование "Залещицкая", а войскам, принимавшим участие в освобождении городов Чертков и Залещики была объявлена благодарность и 24 марта 1944 года в Москве дан салют 20-ю артиллерийскими залпами из 224-х орудий.
За умелое руководство боевыми действиями частей 20-й гвардейской механизированной бригады и успешное форсирование ею в числе первых реки Днестр, за личное мужество, Указом Президиума Верховного Совета СССР от 26 апреля 1944 г. гвардии полковнику А.Х. Бабаджаняну присвоено звание Героя Советского Союза, с вручением ордена Ленина и медали "Золотая Звезда" (№ 2077).
С августа 1944 года и до победного окончания войны с немецко-фашистскими захватчиками А.Х. Бабаджанян в составе 1-й танковой армии командует 11-м гвардейским танковым корпусом, принимая участие в Львовско-Сандомирской, Висло-Одерской, Восточно-Померанской и Берлинской операциях, освобождая города: Лович, Ленчица, Гнезен, Познань, Шифельбайн, Путциг, Лабес, Кольберг, Гдыня, Кепеник и Берлин, взятие которых отмечалось приказами Верховного Главнокомандующего, а Москва салютовала артиллерийскими залпами.
В послевоенный период, по окончании в 1948 году Военной академии Генштаба, А.Х. Бабаджанян занимает высокие должности в Вооружённых Силах СССР: в 1949 - 50 годах он начальник штаба армии, затем командующий армией, с 1950 по 1959 годы - 1-й заместитель командующего войсками Прикарпатского Военного Округа, с 1959 года по 1967 год - командующий войсками Одесского Военного Округа и с 1967 года по 1969 год - начальник Военной академии бронетанковых войск. С мая 1969 г. - начальник танковых войск Советской Армии. В 1975 году Амазаспу Хачатуровичу Бабаджаняну присвоено воинское звание главный маршал бронетанковых войск.
Депутат Верховного Совета СССР 6-го и 7-го созывов.
Умер 1 ноября 1977 года в Москве, где и похоронен на Новодевичьем кладбище.
Награждён 4 орденами Ленина, орденом Октябрьской Революции, 4 орденами Красного Знамени, орденами Суворова 1-й степени, Кутузова 1-й степени, Суворова 2-й степени, Отечественной войны 1-й степени, 2 орденами Красной Звезды, медалями и иностранными орденами и медалями.