Трения между СС и СА в самой Германии продолжались до осени 1935 года. Ситуацию удалось окончательно урегулировать лишь когда Гиммлер возглавил всю немецкую полицию. На этот раз его существенному расширению властных полномочий способствовала международная нестабильность. Провалившийся венский путч, провозглашение всеобщей воинской повинности, занятие немецкими войсками Рейнской области — все это могло рассматриваться как принципиальное нарушение Версальского договора. А это в свою очередь могло стать поводом для начала боевых действий против Германии. Национал-социалистический режим весьма опасался внутриполитических волнений, это был своего рода «комплекс 1918 года», когда власти опасались не столько внешнего, сколько внутреннего врага, «готового ударить кинжалом в спину». Именно в этих условиях оказалась востребованной стоящая выше любых законов террористическая система. К этому времени Гиммлер в очередной раз решил провести реорганизацию структуры СС. Охранные отряды НСДАП должны были состоять из трех различных формаций: соединений оперативного реагирования, караульно-охранных соединений и так называемых общих СС (Альгемайне-СС).

Использование формирований СС во время «ночи длинных ножей» нашло одобрение не только у руководства НСДАП, но и у командования рейхсвера. Поскольку при расширении вооруженных подразделений СС не выказывалось никаких притязаний на военную монополию рейхсвера как «единственного оруженосца нации», представители командования были готовы помогать СС в этом начинании. 24 сентября 1934 года Имперское министерство по делам рейхсвера со ссылкой на решение, принятое Гитлером, приказало сформировать эсэсовские части оперативного реагирования. Предполагалось создать три полка и один батальон связи. Однако на практике поначалу была только лишь сформирована полковая группа «Лейбштандарта». Позже (когда министерство по делам рейхсвера было преобразовано в министерство обороны) было решено, что военные части СС будут подчиняться военным. Уже из этого указа следовало, что военные изначально пытались ограничить амбиции СС. Это должна была подчеркивать фраза, что СС в целом являлись невооруженными формированиями, а создание частей СС оперативного реагирования было «исключением».

Они должны были служить для того, чтобы «выполнять особые внутриполитические задания, которые могут быть поставлены фюрером перед СС». Впрочем, в итоге было принято решение, что части оперативного реагирования в мирное время должны находиться под командованием рейхсфюрера СС, а в случае войны поступать в распоряжение командования вермахта (рейхсвер был преобразован в вермахт в марте 1935 года). Но даже в этом случае командование вермахта не скрывало того, что в предстоящей войне части СС должны были играть второстепенную роль, а потому их подготовка должна быть менее активной, чем в обычных воинских формированиях.

Естественно, это не могло удовлетворить Генриха Гиммлера. Его распоряжение принимать на службу в СС преимущественно тех, кто прошел воинскую службу, однозначно указывало на то, что он планировал создать при СС собственную армию и не хотел довольствоваться ролью резервных формирований. На это стремление также указывает запланированное создание трех школ руководителей СС, две из которых изначально создавались как офицерские училища. Каждые восемь месяцев они должны были выпускать приблизительно полтысячи офицеров СС. Сразу же можно было бы заметить, что подобные старания Гиммлера мало напоминали функционал частей оперативного реагирования, который был прописан в Указе от 24 сентября 1934 года. Неизбежные опасения относительно того, что части СС, которые позже превратятся в Ваффен-СС, составят конкуренцию вермахту, Гиммлер пытался развеять во время личных бесед с Вернером фон Бломбергом и Людвигом Беком, на тот момент являвшимися ключевыми фигурами в военном министерстве. Так, например, в октябре 1934 года Гиммлер заверял военных, что части СС ни в коем случае не будут параллельной с вермахтом военной организацией, так как они предназначены исключительно для «случаев аналогичных мятежу СА». Дескать, военная подготовка и военная организация СС были предназначены только лишь для того, чтобы подчеркнуть их «исключительный характер в составе НСДАП».

Впрочем, подобные заявления никогда не вызывали у высокопоставленных офицеров особого доверия. Например, на это указывают директивы от 18 декабря 1934 года, в которых Людвиг Бек, как начальник войскового управления (до 1935 года аналог Генерального штаба), пытался максимально контролировать части СС. Он «разрешил» создание при СС собственных саперных частей и подразделений связи, после чего пытался доказать Гиммлеру, что СС не нуждались в собственной артиллерии. В итоге Гиммлеру пришлось вновь включаться в сложнейшие переговоры. На некоторое время точку в них поставил Гитлер. 2 февраля 1935 года он решил, что части СС оперативного реагирования будут расширены до уровня полноценной дивизии только в случае начала войны.

Однако в то время Гиммлеру приходилось подтверждать свои претензии на власть не только в военной сфере. Это также относилось к деятельности полиции и концентрационных лагерей. Гиммлер поручил Теодору Эйке преобразование системы концентрационных лагерей еще до того, как тот был назначен их инспектором. Так, например, приказ о перестройке саксонского лагеря Лихтенбург на «баварский манер» (то есть по образцу Дахау) был датирован маем 1934 года. Должность инспектора концентрационных лагерей Эйке получил только пару месяцев спустя. Формально он находился в составе общего управления СС, но на практике же подчинялся непосредственно Генриху Гиммлеру. В начале июля 1934 года Эйке было поручено «инспектирование» расположенного близ Берлина лагеря Ораниенбург. Затем последовали еще несколько мелких лагерей. В это время Гиммлеру приходилось постоянно отражать выпады государственных служащих, в том числе министров, до которых доходили сведения о жестоком обращении с заключенными в лагерях. В итоге Гиммлеру удалось убедить Гитлера преобразовать охрану лагерей в самостоятельное вооруженное формирование, которое бы получало финансирование из государственного бюджета. Когда к середине 1935 года была закончена первая реорганизация лагерей, в них находилось всего лишь около 3 тысяч заключенных.

11 октября 1934 года Генрих Гиммлер выступал перед сотрудниками тайного государственного полицейского управления. Он использовал возможность, чтобы вновь напомнить о недавних событиях. Акцию, проведенную 30 июня 1934 года, он характеризовал как «тяжелейший день, который может выпасть на долю солдата». Поясняя эту мысль, он продолжал: «Мы были вынуждены стрелять в своих собственных товарищей, с которыми провели в борьбе за идеалы последние восемь или десять лет. Это самое тяжелое, с чем только может столкнуться человек». Однако Гиммлер полагал, что события «ночи длинных ножей» также стали «важным испытанием». Далее в своем выступлении Гиммлер пытался предстать перед сотрудниками гестапо в качестве строгого, но заботливого шефа. Когда из зала стали приходить неподписанные записки с вопросами, то он почти по-отечески произнес: «Если у вас будет желание встретиться, то мои двери всегда будут открыты. Вы можете приходить со служебными делами, которые касаются вас и ваших коллег. Вы можете приходить с персональными проблемами, если у вас личные неприятности или просто жмут ботинки… я даю вам честное слово, что помогу, или, по меньшей мере, дам добрый совет». В вопросах, которые касались деятельности гестапо, Гиммлер всегда пытался выступать в роли «благородного начальника». Например, он приложил немало усилий, чтобы выбить для тайной полиции дополнительные финансовые надбавки.