В 1926 г. распоряжением ЦК РКП(б) руководящие работники ОГПУ переходили в партийную номенклатуру. Их назначение и перевод на другую работу теперь могли производиться только с санкции ЦК. В то время из 9 членов коллегии ОГПУ 8 имели дореволюционный партийный стаж, в ОГПУ тогда было 128 таких большевиков, 121 из них занимались оперативной работой. Тогда началось увеличение чекистских кадров: были зачислены в штат 2516 ранее демобилизованных, аппарат ОГПУ в 1926–1929 гг. вырос с 17 466 человек до 18 808. Хуже обстояло дело с образованностью чекистов: в российских управлениях к 1929 г. — 3925 сотрудников с высшим и средним образованием, в среднеазиатских — немного меньше (16–19 %). Зато численность коммунистов возросла до 66 %. Среди служащих тогда в ОГПУ русские составляли 64,8 %, украинцы — 8,2 %, белорусы — 4,9 %, латыши — 3,4 %, поляки — 1,8 %, армяне — 1,7 %, грузины — 1,3 %. На представителей всех других народов приходилось не более 13 % служащих ОГПУ.

В то же время расширялись полномочия ОГПУ: 25 февраля 1927 г. ЦИК СССР принял постановление «О преступлениях государственных и особо для СССР опасных преступлениях против порядка управления»; 4 апреля судебная коллегия ОГПУ получила право рассматривать дела, совершенные «как со злым умыслом, так и без оного», и выносить приговоры вплоть до расстрела. В 1928 году чекисты стали организаторами крупного сфальсифицированного политического судебного процесса против группы инженеров — «Шахтинского процесса». Исполнителем провокации стал уполномоченный ОГПУ на Кавказе Е. Г. Евдокимов, придумал «Промпартию» в 1930 г. Г. Г. Ягода[628]. За ними последовали многочисленные процессы над невинными людьми, охватившие на фоне всенародного бедствия, голода 1932–1933 гг., все слои населения[629].

В 1929 году ОГПУ решало вопросы административного, общеоперативного и судебно-карательного характера[630]. Чекисты имели большое финансирование и миллионный штат агентов. За год до «великого перелома» Бухарин, выступая с речью на траурном заседании памяти Ленина (21 января 1928 г.), предупреждал: «…Мы создаем, и мы создадим такую цивилизацию, перед которой капиталистическая цивилизация будет выглядеть так же, как выглядит „собачий вальс“ перед героическими симфониями Бетховена»[631]. Эта «новая цивилизация» будет связана в России с Лениным, Сталиным, их сподвижниками-большевиками; в Германии — с Гитлером и нацистами; в Италии — с Муссолини и чернорубашечниками. Сталин со второй половины 20-х годов взял курс на создание в стране ситуации, близкой к той, которая существовала в годы гражданской войны и военного коммунизма и характеризовалась господством революционного правопорядка и чрезвычайных мер. По Сталину, властвовать должны не те, кто выбирает и голосует, а те, кто правит. Террор ОГПУ и армия были его основными средствами осуществления тоталитарного господства.

11 июля 1929 г. решением Совнаркома ОГПУ получило в свое ведение исправительно-трудовые лагеря. Перед чекистами поставили задачу использовать труд заключенных для развития богатых, но малозаселенных северных и иных окраин страны. Вскоре ОГПУ было поручено обеспечить общественный порядок, в его ведение были переданы милиция и уголовный розыск. 3 февраля 1930 г. ОГПУ постановлением Президиума ЦИК СССР получило право передоверять полномочия по внесудебному рассмотрению дел своим полномочным представителям на местах, которые могли рассматривать дело с участием представителей краевых и областных исполкомов и прокуратуры. С этого времени в состав троек стали включаться представители обкомов и крайкомов ВКП(б). В 1931 г. приказом ОГПУ была объявлена новая Инструкция по учету и агентурной разработке «антисоветских и контрреволюционных элементов». Согласно этой инструкции все подлежащие учету и агентурной разработке разделялись на две группы. На оперативный учет по литере «А» (основной учет) брались лица, которые занимались «активной антисоветской деятельностью». (К ним относились все члены ЦК небольшевистских партий и др.) На учете по литере «Б» (предварительно-вспомогательный учет) состояли те, о ком сведения поступали впервые. Рабочие, бедняки и колхозники, при неподтверждении в течение года полученных на них компрометирующих материалов, с оперативного учета снимались. Представители интеллигенции оставались. По литере «А» с учета снимались те, кто соглашался сотрудничать с ОГПУ, умирал или становился инвалидом.

В своей карательной деятельности ОГПУ опиралось на жестокие законы той поры. В их серии — постановление «Об охране имущества государственных предприятий, колхозов и кооперации и укреплении общественной социалистической собственности» (7 августа 1932 г.). Особенностью этого закона было применение расстрела или срока заключения 10 лет с конфискацией всего имущества. Вскоре этот закон был распространен на спекуляцию, саботаж сельскохозяйственных работ, кражу семян и т. д. В конце 1932 г. в стране была проведена паспортизация. Колхозники паспортов не получили и оказались прикрепленными к месту жительства. 8 июня 1934 г. ЦИК СССР принял постановление, по которому «измена Родине» каралась смертной казнью. Этот закон вводил ответственность семьи, родственников «изменника». Они подлежали тюремному заключению или ссылке на 5 лет. 10 июля 1934 г. ЦИК СССР на базе ОГПУ создал в НКВД Главное управление государственной безопасности (ГУГБ). При нем создавалось Особое совещание, заменившее судебную коллегию ОГПУ. В его состав входили два члена коллегии НКВД и прокурор СССР. Особое совещание имело право применять во внесудебном порядке заключение в исправительно-трудовой лагерь на срок до 5 лет, а также ссылку или высылку из страны. 1 декабря 1934 г., в день убийства С. М. Кирова, ЦИК и Совнарком СССР приняли постановление «О порядке ведения дел о подготовке или совершении террористических актов». Оно обязывало НКВД проводить следствие по этой категории дел в десятидневный срок. Обвинительное заключение подследственным должно было предъявляться за сутки до рассмотрения дела в суде. Не допускалось участие в судебном процессе обвинения и защиты. Не разрешалось кассационное обжалование приговора и ходатайство осужденных о помиловании. Приговор должен был приводиться в исполнение сразу после его оглашения[632]. Переименование ОГПУ в НКВД вначале пробудило надежды на какую-то либерализацию карательной политики, но эти надежды, как и в 1922 г., во время упразднения ВЧК, не сбылись. 8 апреля 1935 г. был принят «закон о детях», по которому начиная с 12-летнего возраста на них распространялись все статьи Уголовного кодекса, в том числе и расстрел. Родственники обязывались доносить друг на друга.