Ведение следствия поручалось Руденко. Ему предлагалось в суточный срок подобрать следственный аппарат, доложив о его персональном составе Президиуму ЦК КПСС, и немедленно приступить, «с учетом данных на заседании Президиума ЦК указаний», к выявлению и расследованию «фактов враждебной антипартийной и антигосударственной деятельности Берии через его окружение (Кобулов Б., Кобулов А., Мешик, Саркисов, Гоглидзе, Шария и др.)».

1 июля 1953 г. работников Прокуратуры СССР срочно собрали в Мраморном зале. Перед ними появился Р. А. Руденко — один, без обычного в таких случаях представителя ЦК, и объявил, что он назначен Генеральным прокурором.

Следственная работа закипела. Однако, как в былые времена крупных сталинских процессов, ей была свойственна заданность. Еще до начала следствия были опубликованы партийные и государственные решения по делу Берии, в которых он уже был назван преступником. Следствию, а затем и суду лишь предстояло облечь в юридическую «упаковку» партийные и советские директивы. Вновь назначенный Генеральный прокурор при всем желании не смог бы сломать этот порядок вещей.

Нарушений юридических норм и традиций было немало. Проект обвинительного заключения рассматривался и дорабатывался не в прокуратуре, а на заседании Президиума ЦК. Более того, «для усиления партийного влияния» к шлифовке этого документа был приставлен секретарь ЦК КПСС М. А. Суслов. Кандидатов в состав специального присутствия Верховного суда СССР был обязан предложить Р. А. Руденко, то есть прокурору предстояло определить судей по делу, по которому он вел следствие. Вдобавок, президиум ЦК решил, что дело Берии и его соучастников должно рассматриваться в закрытом судебном заседании, без участия сторон, то есть на него не допускались ни обвинители, ни защитники.

Из восьми назначенных судей только двое имели отношение к органам юстиции — первый заместитель председателя Верховного суда СССР и председатель Московского городского суда Л. А. Громов. Остальные являлись партийными и профсоюзными функционерами, военными. Один судья — К. Ф. Лунев был первым заместителем министра внутренних дел СССР.

Генерал армии Москаленко, участвовавший в аресте Берии, оказался в нескольких ипостасях. Он был в составе следственной бригады, затем оказался в числе судей и, наконец, участвовал в расстреле Берии. Чтобы один и тот же человек арестовывал, вел следствие, судил и приводил приговор в исполнение — такого не случалось даже во время репрессий 1930-х годов.

Все преданные суду лица обвинялись по статьям уголовного кодекса, предусматривающим ответственность за государственные преступления (измена родине, совершение террористических актов, активная борьба против рабочего класса и революционного движения и т. д.). Судебное заседание открылось 18 и закончилось 23 декабря 1953 г. вынесением смертного приговора всем подсудимым.

В день окончания суда приговор был приведен в исполнение в присутствии Генерального прокурора СССР.

Далее Роману Андреевичу пришлось заняться и другими одиозными материалами. Именно ему поручили провести следствие по делу B. C. Абакумова, бывшего министра государственной безопасности СССР, инициатора так называемого ленинградского дела. Подход к нему также трудно назвать правовым. На заседании Президиума ЦК КПСС 15 сентября 1954 г. был фактически предрешен приговор, утверждена судебная коллегия.

Судя по всему, Генеральный прокурор в какой-то степени действовал в той же системе координат, поскольку выступал за слушание дела Абакумова в закрытом судебном заседании (как и дела Берии), однако его предложение не прошло.

На суде, начавшемся 14 декабря 1954 г., Абакумов виновным себя не признал, утверждая, что дело его сфабриковано Берией, Кобуловым и Рюминым. Тем не менее Абакумов и некоторые его соучастники были приговорены к расстрелу. Приговор был приведен в исполнение незамедлительно. Абакумову даже не дали возможности его обжаловать.

В 1955–1956 гг. Руденко участвовал и в процессах над бывшими грузинскими «друзьями» Берии — Рапавой, Рухадзе, Церетели, Савицким, Кримяном, Надария, Хазаном и Парамоновым, а также «соратником» Берии — бывшим первым секретарем ЦК компартии Азербайджана и председателем совета министров республики Багировым. Вместе с Багировым на скамье подсудимых оказались еще пятеро руководителей органов внутренних дел Дагестана, Армении и Азербайджана.

Р. А. Руденко в 1960-е годы

Однако времена менялись, и Р. А. Руденко чувствовал императив к приоритету права. Роман Андреевич начал постепенно расчищать авгиевы конюшни, в которые фактически превратились органы правопорядка, да и сама законность в стране. Именно Руденко осуществил мероприятия по восстановлению в своих правах прокурорского надзора после долгих лет диктатуры и произвола. И не просто восстанавливал, а создавал гарантии социалистической законности, соответствующей духу перемен.

Он подчеркивал обязательность советских законов для всех, недопустимость противопоставления законности и целесообразности, неразрывную связь законности с культурностью.

Эти идеи он проводил в жизнь, конечно, в тех пределах, которые допускались руководством страны. Однако и в этой ситуации перемены к лучшему были хорошо заметны.

Например, при нем в центральном аппарате появилась стабильность кадров — чехарда, свойственная предыдущим годам, исчезла.

Ранее безликие и по существу бесправные прокуроры стали наиболее активными проводниками социалистической законности. Слово закон стало, наконец, употребляться в связке с такими понятиями, как справедливость, порядочность, честность. Началось постепенное, пока еще медленное и нерешительное исправление недостатков и преступлений, имевших место в сталинское время.

Одной из причин произвола при расследовании преступлений, пусть не главной, был низкий уровень следственной работы, недостаточная квалификация следователей. Приказ Руденко «О мероприятиях по повышению квалификации следователей органов прокуратуры» от 14 октября 1953 г. был одной из его первых директив. По всей стране началась учеба кадров, улучшалось техническое оснащение следствия.

После июльского (1953 г.) Пленума ЦК КПСС повеяло «оттепелью» и какой-то, пусть урезанной, ограниченной определенными рамками, но все же свободой. Прежде всесильные органы внутренних дел и государственной безопасности были поставлены в рамки закона и играли уже не ту роль, что прежде в жизни общества. Восстанавливались в своих правах суды и прокурорский надзор. Внесудебные расправы ликвидировались.

Вскоре после назначения Генеральным прокурором Р. А. Руденко подписал первые документы, касающиеся реабилитации лиц, невинно привлеченных к уголовной ответственности.

Раньше других справедливость была восстановлена в отношении высшего командного состава Красной армии. 19 марта 1954 г. Руденко, министр внутренних дел Круглов, председатель КГБ Серов и министр юстиции Горшенин направили в Президиум ЦК записку с предложением образовать Центральную комиссию по пересмотру дел осужденных за «контрреволюционные преступления», содержащихся в лагерях, колониях, тюрьмах (467 946 человек) и находящихся в ссылке на поселении (62 462 человека). Кроме Центральной, предлагалось создать соответствующие комиссии в республиках, краях и областях. 4 мая 1954 г. такие комиссии были образованы и вскоре приступили к работе.