В период между 1710 и 1718 гг. эта Канцелярия становится главным органом внешних сношений России. Компетенция ее расширяется в ущерб оставшемуся в Москве Посольскому приказу. Растет личный состав Канцелярии. В 1709 г. граф Г. И. Головкин, заступивший место Ф. А. Головина, назначается государственным канцлером, а П. П. Шафиров — вице–канцлером. Именно эти первые лица государства руководят деятельностью постепенно обретающей опыт криптографической службы. Канцлер и вице–канцлер дают указания о создании новых шифров, замене устаревших, по обеспечению шифрами корреспондентов — дипломатов, военачальников, других государственных деятелей. Непосредственно им докладываются отчеты о создании новых шифров, о добыче шифров иностранных. Руководство криптографической службой со стороны канцлера и вице–канцлера вошло в традицию в России, которая сохранялась почти на протяжении полутора веков.

Имена первых руководителей криптографической службы России мало знакомы современному читателю. Между тем все эти люди были выдающимися государственными деятелями, чьи труды на благо Отечества по достоинству ценили современники. Именно их самоотверженное служение государственным интересам позволило Петру Великому выделить этих своих сподвижников среди прочих и поставить на самый верх государственной иерархической лестницы.

Указом от 18 февраля 1700 г. во главе Посольского приказа и принадлежавших к нему приказов был официально поставлен выдающийся деятель и дипломат раннего периода петровского времени Федор Алексеевич Головин (1650—1706). Он сменил здесь думного дьяка Е. И. Украинцева, который в 1699 г. был отправлен послом в Константинополь на русском корабле, впервые явившемся в водах Босфора. При своем назначении Головин получил звание «начального президента государственной посольской канцелярии». Как генерал–адмирал Головин одновременно управлял флотом, возглавлял оружейную палату, монетный двор, малороссийский приказ. Кроме личного участия в переговорах с иностранными государствами и заключения договоров с ними, Головин руководил деятельностью русских послов за границей, оказывал большое влияние на внешнюю политику России в период Северной войны. Под непосредственным наблюдением Головина работало цифирное отделение.

Знатность рода, образованность, недюжинные способности помогли ему занять высший государственный пост. Ф. А. Головин приобрел известность в 1689 г. заключением Нерчинского договора с Китаем. Под Азовом мы видим его в чине генерала наряду с иностранными сотрудниками царя Лефортом и Гордоном. В 1697 г. Головин был уже одним из ближайших сподвижников Петра I, пользовался его большим доверием и расположением. Впервые отправляясь за границу, царь назначил его вторым после Лефорта полномочным послом со званием «генерала, воинского комиссария и наместника сибирского». После смерти Лефорта Головин получил звание генерал–адмирала, в тот же период при учреждении 10 марта 1699 г. ордена Св. Андрея Первозванного он был пожалован первым его кавалером. 16 ноября 1702 г. первым из русских получил графское Римской империи достоинство. Умер Ф. А. Головин 2 августа 1706 г. на пути в Киев, в Глухове. О смерти его Петр I так извещал Ф. М. Апраксина: «Сей недели господин адмирал и друг наш от сего света отсечен смертью в Глухове; того ради извольте которые приказы (кроме Посольского) он ведал, присмотреть и деньги и прочия вещи запечатать по указу. Сие возвещает печали исполненный Петр».

Преемником Ф. А. Головина стал Гавриил Иванович Головкин (1660—1734). Являясь родственником Петра I по материнской линии, Головкин начал свою службу при дворе с детства. Получив в шестнадцать лет звание постельничего, он носил его до назначения канцлером. Головкин принимал активное участие в борьбе за власть на стороне Нарышкиных, после падения царевны Софьи (1689 г.) он ведал Казенным двором. В начале Северной войны Головкин находился при царе и исполнял самые важные его поручения, руководил внешней политикой России. 17 мая 1703 г., на следующий день после основания Петербурга, Головкин стал кавалером ордена Св. Андрея Первозванного. В 1706 г. он возглавил Посольский приказ, 1 мая 1707 г. Петр пожаловал его графским достоинством.

По случаю Полтавской победы Петр I указом, подписанным 16 июля 1709 г. в местечке Решетиловке близ Полтавы, назначил графа Г. И. Головкина канцлером. По этому же указу он занял место президента вновь образованной Коллегии иностранных дел. С учреждением коллегий (1718 г.) Головкин был назначен президентом Коллегии иностранных дел.

Граф Головкин смог удержаться у власти при всех переменах, которые последовали за смертью Петра Великого, и сохранил до конца своих дней звание канцлера. С учреждением Верховною тайного совета он был назначен одним из его членов и примкнул к партии А. Д. Меншикова. При вступлении Анны Иоанновны на престол он поддержал ее и тем сохранил свое положение при дворе. С учреждением кабинета он был сделан членом его и сенатором. Умер Г. И. Головкин 20 января 1734 г.

Петр Павлович Шафиров (1669—1739) начал свою службу в 1691 г., сопровождал Петра I в его заграничной поездке и в 1703 г. назначен был «тайным секретарем» при Походной посольской канцелярии, где переводчиком работал его отец. Знания П. П. Шафирова в иностранной политике, постоянная близость к царю помогли ему приобрести то значение, на которое он по рождению не мог рассчитывать. После смерти Ф. А. Головина, 23 сентября 1706 г. П. П. Шафиров был назначен в помощь Г. И. Головкину. Одним указом с Головкиным 16 июля 1709 г. Шафиров назначается Петром I подканцлером с чином тайного советника. По указу он занял место вице–канцлера вновь образованной Коллегии иностранных дел. 30 мая 1710 г. Шафиров получил баронское достоинство, в 1711 г. он вел переговоры с турками во время Прутского похода, затем в 1712 г. в Константинополе, где был посажен в тюрьму, но по освобождении успешно заключил договор с Турцией 13 июня 1713 г. Возвратившись в Россию, Шафиров сыграл большую роль в восстановлении и расширении Северного союза, участвовал в заключении Амстердамского договора 1717 г. с Францией. Эта плодотворная деятельность Шафирова вскоре была прервана вследствие столкновений его с канцлером Головкиным и обер–прокурором Сената Скорняковым–Писаревым. Взаимные отношения двух министров царя, Головкина и Шафирова, никогда не были дружественными. Возможно, этому способствовала не только сословная неприязнь, но и различие их характеров. Осторожный, сухой и скупой Головкин был полной противоположностью щедрому, часто несдержанному в обращении Шафирову. Даже в наружности они были контрастны: Головкин высок и очень худ, а Шафиров при очень маленьком росте едва мог двигаться от полноты.

Уже в 1712 г. Шафиров, находясь в Турции, обвинял канцлера в недоброжелательном к нему отношении. В 1719 г. отношения обоих настолько обострились, что привели к открытой ссоре. 19 мая 1719 г. на заседании Коллегии канцлер предложил, чтобы по именному указу царя дела слушались, решались и подписывались всеми членами Коллегии. Шафиров возразил на это, что с присутствующими членами подписывать не будет, причем асессора Курбатова назвал креатурой канцлера. Затем он сказал: «Я с ушниками и бездельниками дел не хочу делать», в сердцах встал и вышел вон, но, остановившись в дверях, закричал канцлеру: «Что ты мнишь и ставишь себя высоко? Я и сам такой же». Канцлер ему отвечал: «Как ты моей старости не устыдишься такими словами мне кричать!» Несдержанный характер Шафирова вызвал другое резкое столкновение его с обер–прокурором Сената. Осенью 1722 г. на заседании Сената, когда царь был в Персидском походе, Шафиров назвал Скорнякова–Писарева вором и грозил убить его и графа Головкина. В 1723 г. Шафиров был обвинен в крупных хищениях и злоупотреблениях по службе. Петр I по возвращении в Петербург созвал «вышний суд», который осудил Шафирова на смертную казнь. 15 февраля 1723 г. его возвели на эшафот, однако казнь была заменена ссылкой в Сибирь. Петр освободил своего бывшего подканцлера и от этого наказания, сослав его в Новгород, где он жил под самым строгим надзором. В ссылке Шафиров оставался недолго: Екатерина I вернула его в марте 1725 г. в Москву, милостиво приняла и назначила президентом Коммерц–коллегии, но прежнего влияния он уже не приобрел. Год спустя Шафиров был своим заклятым врагом Меншиковым командирован в Архангельск для надзора за китовым промыслом, но остался в Москве под предлогом болезни. При Анне Иоанновне в августе 1730 г. он был отправлен в Гилян, а в марте 1737 г. назначен полномочным послом на Немировском конгрессе. Умер П. П. Шафиров 1 марта 1739 г.