10 октября 1943 года распоряжением Ставки Брянский фронт был расформирован, его армии переподчинялись Центральному фронту, а штаб, органы управления, части и соединения фронтового подчинения во главе с командующим фронтом Поповым перебрасывались в район Великих Лук и Невеля Псковской области, где из войск Северо-Западного, частично Калининского и Брянского фронтов был создан 2-й Прибалтийский фронт. Его командующим стал генерал армии М. М. Попов, начальником штаба — генерал-майор Н. П. Сидельников, командующим артиллерией фронта — генерал-лейтенант П. Н. Ничков. Заместителем последнего все время существования фронта был А. И. Нестеренко.

В ноябре 1943 года войска фронта вели наступление на Витебско-Полоцком направлении. В январе следующего года фронт принял участие в Ленинградско-Новгородской операции, в ходе которой была окончательно снята блокада Ленинграда и освобожден Новгород. В ходе Старорусско-Новоржевской операции войска фронта вышли на подступы к Острову, Пушкинским Горам, Идрице; в июле 1944 года они провели Режицко-Двинскую операцию и продвинулись на запад до 200 километров, а в августе — провели Мадонскую операцию, в ходе которой продвинулись еще на 60–70 километров вдоль северного берега Западной Двины.

В сентябре — октябре 1944 года войска фронта приняли участие в Рижской операции и к 22 октября вышли к тукумскому рубежу обороны противника, блокировав совместно с войсками 1-го Прибалтийского фронта в Курляндии группу армий «Север». В последующем, до апреля 1945 года, они продолжали блокаду и вели бои по уничтожению курляндской группировки противника. Во всех этих операциях активное участие принимала артиллерия, руководимая А. И. Нестеренко.

После подчинения оперативных групп гвардейских минометных частей командующим артиллерией фронтов, приказом народного комиссара с 1 апреля 1945 года войска 2-го Прибалтийского и часть войск 1-го Прибалтийского и Ленинградского фронтов, блокирующие курляндскую группировку немцев из 36 дивизий группы армий «Север», были объединены в Ленинградский фронт под командованием Маршала Советского Союза Л. А. Говорова. Нестеренко стал заместителем по гвардейским минометным частям командующего артиллерией этого фронта Г. Ф. Одинцова. В состав оперативной группы ГМЧ Ленинградского фронта входили одна дивизия и четыре отдельные бригады М-31, а также 17 полков М-13. За боевые отличия на этом фронте Нестеренко 29 июня 1945 года был награжден орденом Кутузова 2-й степени.

Здесь уместно вспомнить слова нашего знаменитого военачальника маршала И. С. Конева из его книги мемуаров «Сорок пятый»: «Когда мы говорим о тех качествах, которые требовались от военачальников на войне, то как бы храбрость не была важна, не она в первую очередь определяла боевые качества людей, руководивших войсками. Смелость, храбрость, личное мужество были характерны для наших командиров с начала войны. Главные боевые качества военачальника — это умение управлять войсками, постоянная готовность принять на себя ответственность и за то, что ты уже сделал, и за то, что ты собираешься сделать. Решимость нести ответственность за все действия войск, за все последствия отданных тобою приказов — чем бы это ни грозило и чем бы это ни кончилось — вот первый и главный признак волевого начала в командире».

И надо признать, что такие подходы к делу были присущи Алексею Ивановичу на всем протяжении войны.

Книга мемуаров Нестеренко «Огонь ведут “Катюши”» в полной мере отвечает еще одному требованию, о котором упоминает маршал Конев: «Человек, пишущий воспоминания о войне, может принести наибольшую пользу для воссоздания ее общей картины в том случае, если он пишет прежде всего о тех событиях и делах, с которыми сам непосредственно сталкивался, за которые отвечал. Правильнее всего смотреть на события войны, если так можно выразиться, с того командного пункта, на который он был поставлен».

День Победы застал Нестеренко за подготовкой к решающему наступлению против курляндской группировки немцев, в состав которой входило более 300 тысяч человек. После капитуляции фашистской Германии группировка сдалась в плен. Алексей Иванович встретился с плененным начальником артиллерии курляндской группировки генерал-майором Бауэрмейстером. Во время беседы задал пленному вопрос: «Мы солдаты и наше дело воевать. Но за что вы уничтожали наших детей? За что вы уничтожали наших матерей? За что вы заливали кровью нашу страну?» Ответов не последовало. Правда, в конце беседы фашистский генерал сказал: «Лучше бы мне быть сейчас столяром, чем командующим артиллерией».

Как показывает описание боевого пути, Алексей Иванович Нестеренко являлся видным полководцем Великой Отечественной войны. В заключительных операциях под его командованием находилось семь тяжелых бригад гвардейских минометов из сорока имевшихся в Советской армии (17,5 процента), 17 полков «катюш» из 115 в Советской армии (14,8 процента), то есть шестая часть главной ударной мощи Советской армии — реактивной артиллерии.