Приказом народного комиссара обороны от 30 апреля 1941 года А. И. Нестеренко был назначен командиром 681-го артиллерийского полка во вновь формируемую противотанковую бригаду, а приказом НКО от 6 июня 1941 года назначен начальником артиллерии 86-й стрелковой дивизии. В первых числах июня Алексей Иванович сдал командование 170-м полком, но, по просьбе командира 21-го стрелкового корпуса генерал-майора Владимира Борисовича Борисова, сопровождал свой полк в район нового места дислокации — на станцию Беняконь в районе города Лида в недавно присоединенной к СССР Западной Белоруссии.

Марш длился 12 суток. 21 июня к исходу дня полк сосредоточился в районе станции Беняконь.

Великую Отечественную войну майор Нестеренко встретил со своим 170-м полком. В четыре часа утра 22 июня станция Беняконь и город Лида подверглись бомбардировке немецкой авиацией. В тот же день Алексей Иванович получил приказ командира 21-го стрелкового корпуса генерала В. Б. Борисова вступить в командование артиллерией корпуса.

Уже 23 июня 170-й артиллерийский полк отражал прорыв фашистских танковых колонн у деревни Товстюны, 35 километров северо-западнее Лиды. Встречный бой был тяжелым, неравным. Полк был укомплектован не полностью, по штату мирного времени; на каждое орудие имелось всего по два номера расчета. Офицерскому составу полка, в том числе и его командиру Нестеренко, пришлось стать у орудий и действовать за наводчиков или номеров, отражая атаки немецких танков. В этом первом тяжелом бою было подбито 11 немецких танков. Но и полк понес значительные потери в людях и материальной части, остался практически без снарядов, подвоз которых со складов был в сложившейся обстановке невозможен.

Пришлось с боями отступать. Алексей Иванович в автобиографии писал: «23 июня 1941 года с полком отражал атаку немецких танков на западной границе под Белостоком в районе Эйшешенки и Радуни. В течение месяца мы вели тяжелые неравные бои, непрерывно отражали натиск превосходящих сил врага до тех пор, пока были снаряды, а затем с большими потерями отходили в район Пинских болот. В этих боях я снова убедился в силе огня артиллерии».

В июле Нестеренко прорвался с подразделениями полка из окружения к Мозырю, в полной форме, с оружием и полковым знаменем. Согласно приказу весь личный состав полка был передан во вновь формируемые в Калинковичах и Гомеле части, а Нестеренко с группой офицеров был направлен в резерв Западного фронта на станцию Мещерская, а затем под Ельню — для отбора лучших офицеров-артиллеристов. По дороге, в Москве, Алексей Иванович побывал в оперативном отделе Генштаба, для которого написал докладную записку с изложением опыта боев и своими соображениями.

В августе 1941 года в лагерях 1-го Московского Краснознаменного артиллерийского училища им. Л. Б. Красина в Алабине под Москвой Нестеренко сформировал 4-й гвардейский минометный полк реактивной артиллерии резерва Верховного главнокомандования в числе первых восьми формируемых полков «катюш». Полк был вооружен боевыми машинами БМ-13 на трехосном автомобиле ЗИС-6. 16 реактивных осколочно-фугасных снарядов М-13 с направляющих установки БМ-13 могли быть выпущены в течение 8–10 секунд на максимальную дальность до 8470 метров. В 4-м полку было три дивизиона по три батареи (четвертый дивизион был отправлен в Ленинград), 1414 человек личного состава (из них 137 офицеров), 36 боевых машин, 12 зенитных 37-миллиметровых пушек, 9 зенитных и 18 ручных пулеметов, а также 343 грузовые и специальные машины.

Дивизионы полка были трехбатарейного состава, по четыре 16-зарядных боевых машины в батарее. Залп дивизиона составлял 192 снаряда, а залп полка — 576 снарядов 132-миллиметрового калибра (вес взрывчатого вещества снаряда 4,9 килограмма). Все они могли быть выпущены буквально за секунды.

Что собой представляла боевая машина БМ-13 — знаменитая «катюша»?

На трехосном шасси автомобиля ЗИС-6 была установлена металлическая ферма, на которой смонтирован пакет из восьми пятиметровых стальных двутавровых балок. Для облегчения боевой установки по всей длине каждой балки были высверлены круглые отверстия. Ферма с пакетом направляющих прочно соединялась с поворотной рамой. Установка имела поворотный и подъемный механизмы простейшей конструкции, кронштейн для прицела с обычной артиллерийской панорамой, железный бак для горючего, прикрепленный сзади кабины. На задней части шасси были смонтированы два откидных домкрата. Стекла кабины закрывались броневыми откидными щитами. Против сиденья командира боевой машины на передней панели был укреплен небольшой прямоугольный ящичек с вертушкой, напоминающей диск телефонного аппарата, и рукояткой для проворачивания диска. На диске имелось 16 номеров. Это приспособление называлось пультом управления огнем, сокращенно — ПУО. От пульта шел жгут проводников к специальному аккумулятору и каждой направляющей.

При одном обороте рукоятки ПУО происходило замыкание электроцепи, срабатывал пиропатрон, помещенный в передней части ракетной камеры снаряда, воспламенялся реактивный заряд и происходил выстрел. Темп стрельбы определялся темпом вращения рукоятки ПУО. 16 снарядов на БМ-13 могли быть выпущены за 8–10 секунд.

В своей книге «Огонь ведут “Катюши” Алексей Иванович отмечал: «Наше оружие было страшно для врага. О силе его воздействия можно судить по тем тревожным сигналам, которые фашистское командование рассылало своим войскам. Так, в приказе немецкого командования от 14 августа 1941 года говорилось: “Русские имеют автоматическую многоствольную огнеметную пушку… Выстрел производится электричеством. Во время выстрела образуется дым… При захвате таких пушек немедленно сообщать”. А вскоре появилась новая директива, озаглавленная “Русское орудие, метающее ракетообразные снаряды”. В ней говорилось, что войска доносят о применении русскими нового вида оружия, стреляющего реактивными снарядами. Из одной установки в течение 3–5 секунд может быть произведено большое количество выстрелов… О каждом появлении этих орудий надлежит доносить генералу, командующему химическими войсками при верховном командовании в тот же день».

После окончания формирования полк был немедленно отправлен своим ходом под Харьков, где поступил в оперативное подчинение командования Юго-Западного фронта. Первый залп «катюши» 4-го гвардейского минометного полка произвели 25 сентября 1941 года под воспетой Гоголем Диканькой в Полтавской области. Здесь начался боевой путь полка. Дивизионным залпом в урочище Переруб была разгромлена и бежала с поля боя группировка пехоты и кавалерии противника, изготовившаяся к атаке. В боях под Диканькой враг был задержан на 14 суток. По показаниям пленных, 101-я пехотная дивизия противника от огня 4-го гвардейского минометного полка потеряла до 30–40 процентов своего состава.