В декабре 1950 года Политбюро ЦК ВКП(б) приняло постановление о кадровых реорганизациях в Министерстве госбезопасности. В связи с передачей в МГБ СССР из МВД СССР пограничных и внутренних войск и созданием новых оперативных подразделений было решено увеличить количество заместителей министра до семи человек и создать Коллегию МГБ. Председателем Коллегии МГБ СССР был назначен министр государственной безопасности В. С. Абакумов. Этим же постановлением генерал-майор Питовранов был освобожден от должности начальника Второго главного управления МГБ СССР и назначен заместителем министра и членом Коллегии МГБ СССР. Новому заместителю министра госбезопасности было всего 35 лет.

4 июля 1951 года по решению ЦК ВКП(б) генерал-полковник Абакумов был отстранен от должности Министра госбезопасности СССР, а через несколько дней — арестован. Новым министром госбезопасности был назначен С. Д. Игнатьев.

После ареста Абакумова Политбюро ЦК ВКП(б) объявило генералу Питовранову выговор за то, что он не проявил партийной бдительности и своевременно не информировал высшие партийные органы «о неблагополучии в работе МГБ».

Несколько позже Сталину доложили, что Питовранов «тесно работал с Абакумовым и находился под его враждебным влиянием». И 28 октября 1951 года последовал его арест по «делу Абакумова». Питовранова обвинили в антисоветской деятельности, вредительстве, участии в «сионистском заговоре в МГБ». Находился под следствием до ноября 1952 года. Из камеры направил письмо на имя Сталина со своими предложениями по улучшению работы разведки и контрразведки. Сталину предложения Питовранова понравились, и он распорядился выпустить его на свободу и направить в распоряжение Управления кадров МГБ СССР. 20 ноября 1952 года Питовранов введен в состав Комиссии ЦК КПСС по организации Главного разведывательного управления (ГРУ) МГБ СССР.

Историки отечественных спецслужб А. Колпакиди и А. Северов в одной из своих работ по этому поводу пишут:

«В 1952 году руководство СССР, проанализировав первые итоги холодной войны, внесло в деятельность внешней разведки и контрразведки некоторые коррективы. 30 декабря 1952 года решением Бюро Президиума ЦК КПСС 1-е (внешняя разведка) и 2-е (контрразведка) Главные управления, Отдел «Д» (активные мероприятия), а также ряд подразделений 4-го (разыскного), 5-го (секретно-политического) и 7-го (оперативного) управлений центрального аппарата МГБ были объединены в Главное разведывательное управление (ГРУ) МГБ СССР. Начальником ГРУ МГБ был назначен первый заместитель министра госбезопасности генерал-лейтенант С. И. Огольцов, его заместителями — генерал-майор Е. П. Питовранов (он же начальник 1-го управления ГРУ — разведка за границей) и генерал-лейтенант В. С. Рясной (он же начальник 2-го управления ГРУ — контрразведка). Однако в связи со смертью И. В. Сталина этот проект остался на бумаге. Штаты нового подразделения так и не были утверждены».

Смерть И. В. Сталина вызвала очередную реорганизацию органов государственной безопасности. Уже 5 марта 1953 года на совместном заседании ЦК КПСС, Совета министров СССР и Президиума Верховного Совета СССР было принято решение об объединении МГБ и МВД СССР в единое ведомство во главе с Л. П. Берией.

11 марта 1953 года постановлением Совета министров СССР были назначены первые заместители нового министра внутренних дел — все близкие сотрудники Берии. Ими стали член ЦК КПСС, бывший министр внутренних дел СССР генерал-полковник С. Н. Круглов, генерал-полковник Б. 3. Ко-булов и бывший первый заместитель Круглова в МВД генерал-полковник И. А. Серов.

Приказом МВД СССР от 14 марта 1953 года начальником внешней разведки был назначен генерал-лейтенант В. С. Рясной. Генерал-майор Питовранов становится его заместителем, а с 21 мая 1953 года — первым заместителем.

26 июня 1953 года Берия был арестован, снят с должностей первого заместителя председателя Совета министров СССР и министра внутренних дел СССР. В тот же день указом Президиума Верховного Совета СССР министром внутренних дел был назначен генерал-полковник Круглов. Ряд близких к Берии чекистов были также арестованы.

После ареста Берии Питовранов допрашивался как свидетель, обвинений ему не предъявлялось. В июле 1953 года генерал-майор Питовранов был командирован в Германию. До марта 1957 года последовательно занимал должности Уполномоченного МВД СССР в Германии, заместителя Верховного комиссара СССР в Германии, начальника Инспекции по вопросам безопасности при Верховном комиссаре, старшего советника КГБ при МГБ ГДР. В 1956 году Е. П. Питовранову присвоено воинское звание генерал-лейтенанта.

В период пребывания Питовранова в Берлине аппарат представительства КГБ по координации и связи с МГБ ГДР добился значительных оперативных результатов. Сам Евгений Петрович за время командировки был удостоен трех орденов.

Следует отметить также активную работу в этот период с уже упоминавшимся нами ценным источником оперативной и политической информации Хайцем Фёльфе — ответственным сотрудником организации Гелена.

В июле 1955 года канцлер ФРГ Аденауэр принял решение о реорганизации разведывательной службы страны, находившейся под контролем ЦРУ, и создании самостоятельной разведывательной службы Западной Германии, которая начала действовать с 1 апреля 1956 года. Ее возглавлял президент БНД, который непосредственно подчинялся федеральному канцлеру и больше не зависел от ЦРУ. Фёльфе получил высокий ранг правительственного советника и был назначен начальником реферата «Контршпионаж против СССР и советских представительств в ФРГ».

Это значительно расширяло разведывательные возможности источника Лубянки. По существу, Фёльфе стал руководителем советского отдела БНД. Через него проходили многие важнейшие документы, которые западногерманская разведка готовила для Аденауэра, в том числе — по вопросам перевооружения бундесвера, внешней политики ФРГ, ее членства в НАТО. С помощью Фёльфе советской разведке удалось нанести сокрушительный удар по спецслужбам ФРГ и США. Так, БНД совместно с ЦРУ разработала и провела дорогостоящую операцию по установке подслушивающей техники в новом здании советского торгпредства в Кёльне с использованием десятков микрофонов. В здании напротив был оборудован стационарный пункт прослушивания ведущихся в советском торгпредстве разговоров. Однако все труды пошли прахом, поскольку предупрежденная Фёльфе советская разведка направила в Кёльн своих технических специалистов, которые пропустили через электропроводку микрофонов ток такой силы, что все закладки сгорели в один момент.

После возвращения в СССР в марте 1957 года Питовранов был назначен начальником одного из управлений и членом Коллегии КГБ при СМ СССР.

В 1960 году последовала новая командировка, на этот раз в Китай — руководителем представительства КГБ при СМ СССР при внешней разведке КНР.

В феврале 1962 года генерал-лейтенант Питовранов был назначен начальником и председателем совета Высшей школы КГБ имени Ф. Э. Дзержинского. В 1964 году заочно окончил ВПШ при ЦК КПСС.

В 1966 году уволен в запас.

Деятельность генерал-лейтенанта Питовранова в органах государственной безопасности была отмечена двумя орденами Красного Знамени, орденом Трудового Красного Знамени, двумя орденами Отечественной войны I степени, тремя орденами Красной Звезды, орденами Дружбы народов и «Знак Почета», многими медалями, а также нагрудным знаком «Почетный сотрудник госбезопасности».