12 ноября 1931г. зачислен красноармейцем в 28 артиллерийский полк.

01 ноября 1932г. назначен командиром орудия.

С 16 ноября 1933г. курсант 1 Советской Объединенной военной школы РККА им.ВЦИК (до 1935г. школа располагалась на территории Кремля).

07 ноября 1936г. окончил школу. Присвоено звание лейтенант. Назначен командиром взвода 18 артиллерийского полка (Ленинградский военный округ).

С 17 мая 1937г. командир взвода полковой школы.

С 05 апреля 1938г. помощник начальника штаба 18 гаубичного артиллерийского полка.

В августе 1938г. присвоено звание старший лейтенант.

Участник Советско-финляндской войны.

09 января 1941г. был уволен по статье 43 «а».

26 апреля 1941г. приказ об увольнении отменен. Назначен помощником начальника 3 отделения 6 отдела Управления артиллерийских баз и арсеналов Главного артупраления Красной Армии.

04 октября 1941г. присвоено звание капитан.

С 28 февраля 1942г. начальник штаба 284 артиллерийского полка.

С 13 февраля по 19 марта 1942г. на базе Фрунзенского райвоенкомата Москвы формировался 1072 артиллерийский полк. Командиром полка был назначен капитан Затолокин. Полк имел на вооружении 75-мм французские пушки образца 1897г. 6 батарей по 4 орудия.

Капитан Коваленко был назначен начальником штаба полка.

20 марта полк поступил в распоряжение коменданта 152 Можайского укрепленного района Московской зоны обороны (МЗО). полк обеспечивал противотанковую оборону на участке Балычево- Милятино- Авдотьино- Дробылево.

20 февраля 1943г. полк преобразован в 1072 истребительно-противотанковый артиллерийский полк. Получил на вооружение 76-мм пушки ЗИС-3 (6 батарей по 4 орудия). Личный состав вооружен ППШ и карабинами. Командир полка- майор Затолокин Федор Иванович.

С 16 по 22 марта полк совершил 430-км. марш по маршруту Можайск- Москва- Серпухов- Тула- Одоев. 

Полк поступил в распоряжение коменданта 119 укрепрайона МЗО.

С 18 по 24 апреля полк передислоцируется в Калугу и поступает в состав 3 резервной армии.

С 25 по 26 мая передислоцируется в район г.Юхнов (Смоленская обл.) и входит в состав 21 армии.

С 10 по 12 июля передислокация в район д.Великополье (Смоленская обл.). С 13 июля- в район г. Спас-Деменск. 14 июля- станции Павлоново.

С 28 августа полк в районе г.Ельня. 31 августа в районе Угрица отразил атаку 30 танков, 5 из которых были сожжены.

С 15 сентября полк под Смоленском. Занимает оборону на танкоопасных направлениях.

Старший разведчик 2 батареи красноармеец Бутузов 29 октября 1943г. обнаружил на переднем крае противника огневую точку ручного пулемета и ДЗОТ, которые были уничтожены огнем батареи.

Приказом от 30 октябюря 1943г. был награжден медалью «За боевые заслуги».

01 ноября полк готовится к погрузке на станции Колодня (Смоленск). 07 ноября разгружается на станции Калинин и сосредотачивается в д.Жорновка. Личный состав приступил к боевой подготовке.

15 декабря 1943г. командование полком принял подполковник Гаев Валентин Николаевич.

С 23 по 30 апреля 1944г. полк передислоцируется железной дорогой по маршруту Калинин- Москва- Вязьма- Ярцево- Вязьма- Ржев- Торжок- Ленинград- Красное Село.

05 февраля 1944г. Александру Дмитриевичу присвоено звание майор.

С 01 по 05 мая полк находился в районе Петергофа. Шла подготовка к боевым действиям на Карельском перешейке.

С 20 мая полк в районе Медного завода на Карельском перешейке.

10 июня в 06-00 полк открыл огонь, участвуя в артподготовке в полосе наступления 358 стрелковой дивизии.

В период артподгтовки, несмотря на ответный огонь противника, майор Коваленко находился у огневых позиций, руководя ведением огня. Огнем орудий полка были проделаны проходы в проволочных заграждениях, уничтожены огневые точки в ДЗОТах и на открытых площадках.

11 июня 1944г. майор Коваленко был представлен к ордену Отечественной войны I степени, приказ о награждении от 29 июня 1944г.

При прорыве второй линии финской обороны на линии Маннергейма полк поддерживает 10 стрелковую дивизию. 

За время операции полк уничтожил свыше 45 огневых точек противника, проделал 13 проходов в проволочных заграждениях протяженностью 1700м. по фронту, рассеял и частично уничтожил до 2 рот автоматчиков.

16 июня 1944г. Александр Дмитриевич  был представлен к ордену Красной Звезды, приказом от 03 июля 1944г. награжден орденом Отечественной войны II степени.

С 09 июля полк с другими частями форсировал р.Вукса и вел бои ха расширение плацдарма.

Ко 02 сентября полк вышел из боя и готовился к погрузке в эшелон.

С 24 сентября передислокация по маршруту Ленинград- Бологое- Великие Луки- Невель- Полоцк- Двинск- Паневежис.

С 01 октября полк в районе Шауляй.

С 05 октября- переформирование полка в 1072 легкий артиллерийский полк.

С 05 по 14 октября полк занимал позиции у г.Мемель.

До 20 октября полк находился в районе Седа.

С 20 октября полк участвовал в боях в районе Приекуле.  

30 октября 1944г. погибли майор Коваленко и командир дивизиона капитан Слесарев Владимир Иванович. Офицеры были похоронены у двух дубов возле дороги в 200м. западнее местечка Зарини, Латвия. Перезахоронены на братском кладбище хутора Тилейши, Елгавский уезд, Латвия. 

За долголетнюю и безупречную службу Указом Президиума ВС СССР от 03 ноября 1944г. майор Коваленко награжден медалью «За боевые заслуги».