В августе 1921 г. было осуществлено дешифрование первых турецких дипломатических телеграмм. Уже в начале 20–х годов криптографы Спецотдела добились возможности читать переписку внутренних линий связи Турции и отдельных линий связи военных атташе. Турки применяли главным образом четырехзначные коды с перешифровкой короткой гаммой, меняющейся через двое суток, а также коды без перешифровки. Дешифрованная переписка содержала сведения, представляющие большой интерес для советской стороны, и активно использовалась. Многие дешифрованные телеграммы направлялись, например, в Закавказскую ЧК, и это давало возможность принимать меры по пресечению шпионских действий иностранных, а в данном случае турецкой, разведок. В 1921 г. стала разрабатываться английская шифрпереписка.

Большую помощь Спецотделу в период 20— 30–х годов оказал Иностранный отдел ОПТУ, разведчики которого добыли больше десяти английских кодов. По этим шифрам читалась часть дипломатической переписки, однако не вся, так как возникали сложности с раскрытием перешифровки.

Среди читавшейся переписки имелось много материалов, представлявших большой интерес для Советского правительства, органов советской разведки и контрразведки. В числе таких документов были, например, телеграммы о советско–английских отношениях, о продаже англичанами оружия странам, граничащим с СССР, о деятельности английской разведки в Средней Азии и др.

Хотя работа по раскрытию польских шифров начала проводиться вскоре после организации Спецотдела, первые практические результаты были получены лишь в 1924 г., когда были раскрыты два кода II разведывательного отдела генерального штаба польской армии для связи с военными атташе в Москве, Париже, Лондоне, Ревеле, Вашингтоне и Токио.

Для органов ОГПУ особую ценность имели дешифрованные телеграммы, освещавшие шпионскую деятельность кадровых разведчиков, находившихся под официальным прикрытием иностранных дипломатических, военных и консульских представительств в СССР. Так, начатое в 1924 г. чтение дешифрованной переписки польских военных атташе позволило получать секретные сообщения польской разведки, пытавшейся широко проводить шпионскую работу на территории СССР. Советская разведка была очень заинтересована в получении подобной информации.

Естественно, что в начальный период своей работы Специальному отделу пришлось встретиться с большими трудностями. Опытных криптографов было мало, и каждому из них приходилось возглавлять работу по нескольким направлениям. Молодые сотрудники еще не обладали необходимыми криптографическими и языковыми знаниями. Перехват шифрпереписки по многим линиям связи велся нерегулярно, возможности выделенных технических средств были весьма ограниченны. Все работы, связанные с анализом шифрматериалов, проводились только вручную. Были и другие трудности. Однако по мере укрепления Спецотдела, роста мастерства его сотрудников объем криптографических исследований по раскрытию шифров начал неуклонно возрастать. К 1925 г. проводилась разработка шифров уже 15 государств. В 1927 г. началось чтение японской переписки, а в 1930 г. — переписки некоторых линий связи США.

Кроме разработки шифров иностранных государств, одной из актуальных задач дешифровального отделения Спецотдела в описываемый нами период была разработка так называемой внутренней шифрованной переписки, то есть нелегальной переписки белогвардейских и других контрреволюционных организаций, враждебных советскому строю политических группировок. Архивные документы показывают, что специалисты 4–го отделения Спецотдела смогли раскрыть сотни различных шифров, ключей и условностей, ими были прочитаны тысячи всевозможных писем, донесений и других конспиративных документов, в том числе исполненных тайнописью.

Одной из контрреволюционных организаций, шифрпереписка которой была впервые дешифрована в 1921 г., являлся руководимый Б. Савинковым «Народный союз защиты Родины и свободы». Анализом ряда шифрованных документов было установлено, что члены этой организации использовали шифры пропорциональной замены. Вскоре они были раскрыты.

Шифры организации Б. Савинкова строились в квадрате 10x10 или были шифрами по слову на длину алфавита, строки ключа чередовались. Фактически получались ключи к шифру или в прямоугольнике 10x30, или выявлялась 10–значная перешифровальная гамма. Было раскрыто 26 ключей к шифру и дешифровано более 30 документов, содержащих пароли, конспиративные явки.

В 1922—1924 гг. главным образом проходили материалы меньшевистских организаций. За эти годы было дешифровано 38 документов и раскрыто 17 ключей к шифру. По этим материалам было установлено 65 адресов с паролями и явками.

На протяжении 1922, 1927–1928, 1930–1931 годов проходили материалы монархических организаций. Было раскрыто 39 различных документов, установлено 7 ключей и небольшой шифр–код на 1000 величин.

В начале 20–х годов Спецотделом было исследовано много шифрматериалов царского департамента полиции и жандармерии. Было прочитано 90 документов, по ним составлено 10 основных ключей. По дешифрованным материалам было установлено много секретных агентов полиции и жандармерии, работавших теперь на фабриках и заводах разных городов.

Перехватывалась и доставлялась в Спецотдел переписка уголовного розыска КВЖД. Было дешифровано 355 телеграмм, раскрыто 33 ключа к шифру и один код на 900 величин.

В эти же годы Спецотделом разрабатывались и материалы шифрпереписки различных зарубежных партий. В 1936 г. были раскрыты 3 шифра национал–социалистической партии Германии, использовавшиеся для внешних сношений. Ключом являлась перестановка простого шифра замены по свастике. Потом свастика разрезалась, складывалась в квадрат и из прямоугольника выписывалась.

В конце 20–х годов было положено начало дешифровальной работе в Красной Армии. 28 марта 1928 г. на совещании у начальника II отдела Управления делами Наркомвоенмора и РВС СССР было принято постановление об организации «военно–морской части по дешифровке в Центре, в Москве». Но дело продвигалось крайне медленно. Собравшееся 10 января 1929 г. новое совещание, посвященное тому же вопросу, на котором кроме руководителей ОПТУ и Спецотдела, представителей штаба РККА и Военно–морского флота были также работники морских штабов Балтийского и Черного морей, вновь подтвердило необходимость организации соответствующей дешифровальной службы. Однако прошел еще год, а «военно–морская часть по дешифровке» еще не была создана. В конце февраля 1930 г. Г. И. Бокий подготовил проект письма К. Е. Ворошилову, в котором писал:

«Специальный отдел при ОГПУ считает такой темп, взятый штабом РККА в разрешении вопроса об организации военно–морской части по дешифровке, слишком медленным. Желательно ускорить разрешение этого вопроса, т. е. в отношении дешифровальной службы РККА отстала от армий своих возможных противников, у которых это дело давно налажено».

И лишь в августе 1930 г. было создано первое дешифровальное подразделение при штабе РККА. Находилось оно в оперативном подчинении Спецотделу при ОГПУ и фактически входило в его состав. По штату оно проходило 13–м сектором 7–го отдела Штаба РККА. Приказом РВС от 5 августа 1930 г. вводилось Положение о 7–м отделе. В одном из пунктов этого Положения было записано, что на отдел возлагались вопросы организации дешифровальной работы, руководство и контроль над ней. «Начальник 7–го отдела в специальном отношении подчиняется начальнику Специального отдела при ОГПУ». Начальником военно–морского дешифровального сектора было решено назначить помощника начальника Спецотдела при ОГПУ Павла Хрисанфовича Харкевича. Вновь созданное подразделение было необходимо укреплять и расширять в кадровом отношении. Костяк его составили сотрудники Спецотдела, теперь уже бывшие. Но набирались и новые кадры.