Все было пущено в ход, дабы переубедить сторонников революционного марксизма и направить их в сторону профессионального движения. Зубатов стал готовить из рабочих пропагандистов его идей. В отделении была заведена библиотека с соответствующим набором книг. Арестованным социал-демократам давали читать книги нужного направления, остальное дорабатывалось при беседах на допросах. Проводилась и открытая контрпропаганда: в «Московских Ведомостях» публиковались соответствующие разъяснительные статьи. Через своих первых подготовленных и энергичных рабочих Зубатов приступил к организации в разных частях города рабочих кружков, в которых начались занятия. Эти кружки были враждебно настроены к революции и ее вождям. Все работы проводились официально через оберполицмейстера и генерал-губернатора. Рабочие сами ходатайствовали перед предпринимателями и добивались своих требований. В то же время, зная все, что делается на фабриках и заводах, охранное отделение своевременно приходило на помощь рабочим в случае каких-либо несправедливых действий хозяев или заводской администрации. По воскресеньям в охранном отделении офицеры и чиновники принимали заявления и жалобы от рабочих по всем вопросам. Рабочим давали разъяснения, справки и оказывали поддержку. Таким путем в сознание рабочих внедрялась мысль, что они могут добиваться своих требований без социалистов, мирным путем, и что власть не только не мешает, но и помогает им.

Движение разрасталось. Успех был очевиден, рабочие доверчиво относились к власти и сторонились революционеров. Местные революционные деятели всполошились, но, обставленные полицейским надзором, были бессильны. В Москве рабочие стали жить новой, более осмысленной, общественной, но не революционной жизнью. Они слушали выступления профессоров, занимались самообразованием, изучали экономические вопросы.

1902 год был апогеем зубатовских организаций в Москве, 14 февраля этого года был утвержден устав «Московского общества вспомоществования рабочих в механическом производстве». 22 февраля зубатовскими организациями была устроена грандиозная манифестация в Кремле. До 45 тысяч рабочих собралось у памятника царю-освободителю. Полиция отсутствовала, и порядок поддерживали сами рабочие. Была отслужена панихида по Александру II и возложен венок. Впечатление от происходящего было большое, так как манифестация рабочих проходила лишь несколько дней спустя после студенческих беспорядков. В тот же день рабочие отправили в Петербург депутатов, которые возложили серебряный венок на гробницу царя-освободителя в усыпальнице Петропавловской крепости. Зубатов был в зените славы и планировал распространить свой метод снижения влияния социал-демократических партий на рабочее движение на другие города России. С разрешения министра внутренних дел Сипягина такая работа была начата в Минске под руководством агента Зубатова Мани Вильбушевич. Зубатов руководил ею из Москвы, на месте же за ее деятельностью наблюдал начальник Минского жандармского управления полковник Васильев. Движение в Минске также имело успех и нейтрализовало работу местных революционеров.

Московские капиталисты не раз обращались к премьеру Витте с жалобами, что полиция вмешивается в их взаимоотношения с рабочими; жаловалась и фабричная инспекция. Витте пытался препятствовать Зубатову, но успеха не имел, так как Министерство внутренних дел покровительствовало новатору.

Успешное развитие рабочего профессионального движения продолжалось до тех пор, пока делами руководил сам Зубатов и пока участие в деле охранного отделения не стало достоянием широких слоев общества.

В октябре 1902 года Зубатов был переведен в Петербург и назначен заведующим Особым отделом Департамента полиции. Карьера Зубатова внезапно прервалась в 1903 году, когда его отношения с министром внутренних дел Плеве окончательно испортились. Плеве все более настаивал на усилении репрессий и отрицательно относился к зубатовским проектам реформ. Летом 1903 года Плеве, без объяснения причин, потребовал прекратить деятельность Еврейской независимой рабочей партии. Зубатов вспоминал об этом так: «Он перешел к грубому требованию “все это” прекратить, в особенности деятельность “Независимой еврейской рабочей партии”, нимало не соображаясь ни с моими нравственными запросами, ни с душевным состоянием всех “прикрываемых”, которые воочию успели стать на ножи и с “правыми”, и с “левыми”».

Узнав об этом, лидеры партии поспешили заявить о ее самороспуске. После этого случая Зубатов подал прошение об отставке. Поведение Плеве по отношению к Зубатову можно понять и объяснить. Витте писал, что Плеве — человек «злопамятный и мстительный», и отставка Зубатова — это всего лишь акт мести в отношении строптивого подчиненного. Эта победа не принесла успеха Плеве, став для него пирровой. Лишившись одного из эффективных руководителей сыска, министр вскоре погиб: 15 июля 1904 года он был убит бомбой террориста.

С увольнением Зубатова рушилось и его дело. Его продолжение шло не так, как понимал и вел его сам Зубатов. В принципе верная его идея реализовывалась казенным, полицейским подходом. Для профессионального русского рабочего движения в нужный момент не нашлось национального, общественного вождя. Не выделило такого реформатора из своих рядов и правительство. «У Витте, как министра финансов, не оказалось глубокого знания и понимания рабочего вопроса, ни государственного чутья к нему, ни интереса. Его собственные записки лучшее тому доказательство. Не нашлось около Витте и человека, который бы зажег его интересом к рабочему вопросу и направил бы его на разрешение этого вопроса государственным размахом, как то было у Витте в других сферах его деятельности».

В конце 1903 года Зубатова выслали под надзор полиции во Владимир с мизерной пенсией и с унизительным «уточнением», что она может быть прекращена, «если он позволит себе какие-либо действия, государственной пользе противящиеся». А.И. Спиридович вспоминал: «Ненавидимый революционерами, непонятый обществом, отвергнутый правительством и заподозренный некоторыми в революционности, Зубатов уехал в ссылку. Но опала и ссылка, где мне удалось побывать у него в гостях летом 1904 г., удалось долго и хорошо побеседовать, не повлияли на его политические убеждения…Зубатов продолжал оставаться честным, идейным и стойким монархистом». Сам Зубатов из владимирской ссылки писал в январе 1907 года Медникову: «Я защищал и защищаю самодержавие не по найму, служил по убеждению, а не из-за денег… а потому отказ от своего прошлого равнозначен для меня отказу от своего “я”, от своего самолюбия».

При новом министре П.Д. Святополк-Мирском Зубатов был реабилитирован, с него были сняты все ограничения и ему была назначена высокая пенсия. Для Зубатова открывался путь к возвращению на службу. Спрос на него как специалиста был велик, и его стали настойчиво звать в Петербург. По словам Зубатова, он поочередно получал предложение вернуться на службу от Святополк-Мирского, Д.Ф. Трепова и С.Ю. Витте. Однако возвращаться на службу он не захотел. В письме к В.Л. Бурцеву он объяснял свое нежелание соображениями личной и семейной безопасности, а также тем, что возвращение дисгармонировало с его духовным состоянием. Вот как он сам объяснил свой отказ вернуться на службу: «Вышвырнув меня, Плеве оказал мне неоценимую услугу. Гордость и совесть никогда бы не позволили мне кинуть дело в тяжелую для него минуту. Я либо продолжал бы терзаться, либо попал бы под браунинг».