Военную службу начал в 1901 году как соискатель офицерского звания (фанен-юнкер) в 46-м артиллерийском полку кайзеровской армии. В 1902 году произведен в офицеры (младший лейтенант). В 1906 году окончил школу артиллерийских инструкторов и получил чин лейтенанта. С 1908 года занимал должность полкового адъютанта, обер-лейтенант (1910). В 1914 году поступил на курсы офицеров Генерального штаба резерва, но из-за начавшейся Первой мировой войны их выпуск был произведен досрочно. Участник Первой мировой войны на Западном фронте. Осенью 1914 года был ранен, капитан (октябрь 1914 года). По излечении вернулся в свой 46-й артиллерийский полк и получил в командование артиллерийскую батарею (ноябрь 1914 года). В марте 1915 года назначен на должность офицера Генерального штаба при штабе 15-го армейского резервного корпуса, затем (с 1917) — при штабе 199-й пехотной дивизии. С декабря 1917 года начальник оперативного отдела штаба корпуса морской пехоты во Фландрии. Войну закончил в чине капитана. Награжден Железным крестом 2-й и 1-й степени.

После поражения Германии в Первой мировой войне и демобилизации кайзеровской армии оставлен служить в рейхсвере — армии Веймарской республики (1919). В 1919 году служил в штабе Добровольческого корпуса на германо-польской границе, затем был инструктором в кавалерийском училище в Ганновере (1920—1923) и офицером штаба 6-го артиллерийского полка (1923—1925), майор (1923). В 1925 году переведен в Организационное управление Военного министерства (под этим и несколькими другими управлениями тогда скрывался засекреченный Генеральный штаб, иметь который Германии было запрещено Версальским мирным договором 1919 года). За 2 года работы в Военном министерстве Кейтель сблизился с В. фон Бломбергом, В. фон Фричем, В. фон Браухичем и другими будущими руководителями вермахта, что впоследствии сыграло немаловажную роль в его продвижении по службе. Зарекомендовал себя надежным и основательным штабным работником. В 1927—1929 годах командовал дивизионом в 6-м артиллерийском полку (обязательная 2-годичная стажировка для офицеров Генерального штаба). В 1929 году вернулся в Военное министерство и был назначен начальником Организационного управления, подполковник (1929). В 1931 году в составе военной делегации рейхсвера посетил Советский Союз. Вместе с ним в составе этой делегации находился и Браухич. В том же году произведен в полковники. Среди работников Военного министерства Кейтель выделялся большой работоспособностью, граничившей с фанатизмом, что довело его до полного изнеможения и инфаркта, осложненного пневмонией (1932).

Приход нацистов к власти (январь 1933 года) встретил на одном из горных курортов в Судетах, где проходил курс реабилитации после госпиталя. Будучи аполитичным служакой, Кейтель отнесся к этому событию с полным безразличием. Дело в том, что правительства в Веймарской республике менялись довольно часто, но в государстве оставалось все по-прежнему, и уж во всяком случае на положении дел в армии это ни коим образом не влияло, все шло своим чередом. Так что беспокоиться в отношении очередной смены кабинета министров было нечего.

Вернувшись к исполнению своих служебных обязанностей, Кейтель в июле 1933 года познакомился с новым рейхсканцлером А. Гитлером и сразу же сделался его горячим сторонником. Программа Гитлера, направленная на восстановление военной мощи Германии, Кейтеля полностью устраивала. Вскоре Кейтель был выдвинут на должность заместителя (по пехоте) командира 3-й пехотной дивизии, дислоцированной в Берлине и его окрестностях (1933). Этой дивизией тогда командовал генерал В. фон Фрич, старый знакомый Кейтеля. В начале 1934 года его сменил генерал Э. фон Вицлебен. В июле 1934 года Кейтель назначен командиром вновь сформированной 12-й пехотной дивизии (Шверин) и произведен в генерал-майоры. Но в это время у него умирает отец, и Кейтель, унаследовав родовую ферму, принимает решение выйти в отставку и заняться сельским хозяйством. Когда рапорт Кейтеля об отставке лег на стол главнокомандующего армией Фрича, тот вызвал его к себе и уговорил остаться на военной службе, пообещав ему блестящую карьеру и предложив на выбор любую из вновь формируемых дивизий. Перед такой перспективой Кейтель не устоял и дал согласие на назначение командиром 22-й пехотной дивизии (Бремен). Эта дивизия входила в состав 6-го военного округа, которым тогда командовал генерал Г. фон Клюге.

1 октября 1935 года по рекомендации Фрича военный министр Бломберг назначил Кейтеля начальником Военного управления Военного министерства (основная структурная часть министерства). На этом посту Кейтель заменил генерала В. фон Рейхенау, который по существу являлся заместителем военного министра и четвертым по значению лицом в германском военном руководстве. В столь стремительном продвижении Кейтеля по службе, начавшемся с приходом к власти нацистов, решающую роль сыграло покровительство военного министра В. фон Бломберга, с которым он был знаком еще со времен Первой мировой войны, и главнокомандующего армией В. фон Фрича. В 1936 году Кейтель получил чин генерал-лейтенанта, а в 1937 году был произведен в генералы артиллерии.

Заняв ключевую должность в Военном министерстве, Кейтель предпринял активные усилия по реорганизации управления вооруженными силами, преследуя цель объединить руководство всеми родами войск и видами вооруженных сил в единой структуре. Однако против этого резко выступили главнокомандующий сухопутными войсками Фрич, главнокомандующий ВМФ Редер и особенно главнокомандующий ВВС Г. Геринг, усмотревшие в затее Кейтеля ущемление своих прерогатив. Преодолеть их сопротивление Кейтелю не удалось, тем более что соответствующей поддержки от военного министра он не получил. Отношения Кейтеля с Бломбергом, несмотря на их давнее знакомство, оставались чисто служебными, даже после того, как они породнились (сын Кейтеля женился на дочери Бломберга). Беспрекословно повинуясь своему начальнику, Кейтель заслужил репутацию марионетки военного министра. Но, видимо, не все так просто было в их взаимоотношениях. После того как Бломберг в январе 1938 года попал в неприятную историю из-за женитьбы на бывшей проститутке, Кейтель и пальцем не пошевелил, чтобы хоть как-то защитить своего начальника и родственника. Более того, то ли по недомыслию, то ли преднамеренно (это до сих пор остается загадкой), он способствовал падению своего шефа. Когда в его распоряжении оказались компрометирующие материалы на жену Бломберга, поступившие из полиции, то он не нашел ничего лучшего, как передать их злейшему врагу фельдмаршала Г. Герингу, хотя вручивший ему досье на фрау Бломберг шеф берлинской полиции (он хотел передать его лично Бломбергу, но того на месте не оказалось, и он обратился с этим деликатным вопросом к заместителю министра Кейтелю, надеясь, что тот передаст досье по назначению), заметив колебания Кейтеля, весьма прозрачно намекнул ему на возможность уничтожения компромата. Получив досье, Геринг воспользовался им, чтобы свалить военного министра, на чье место он уже давно претендовал. Когда Гитлер прощался с уволенным в отставку фельдмаршалом Бломбергом, то спросил его — кто мог бы после него возглавить вооруженные силы. Тот затруднился с ответом. Тогда фюрер поинтересовался — кто был у него заместителем. «Кейтель, — последовал ответ, — но о том, чтобы его использовать, не может быть и речи, поскольку он всего лишь тот, кто управляет моей канцелярией». «Вот такой человек мне и нужен!» — радостно воскликнул Гитлер и в тот же день (27 января 1938 года) подписал приказ о назначении Кейтеля на вновь учреждаемый пост начальника штаба верховного главнокомандования вооруженными силами — Oberkommando der Wermacht (ОКВ). 4 февраля 1938 года была произведена реорганизация руководства вооруженными силами (вермахтом). Пост верховного главнокомандующего занял сам Гитлер. При нем создавался рабочий орган — ОКВ, возглавляемый Кейтелем. Однако ОКВ, как показало дальнейшее развитие событий, так никогда и не стал верховным руководящим органом вооруженных сил, а превратился в типичную военную канцелярию Гитлера. Кейтель довольно быстро смирился с этим и никогда не претендовал на большее, хотя иногда поначалу и пытался показать характер. Так, когда через неделю после отставки Бломберга настал черед главнокомандующего сухопутными войсками Фрича и Гитлер хотел назначить на его место генерала Рейхенау, то Кейтель решительно выступил против этого. Возглавив вместе с генералом Г. фон Рундштедтом генеральскую оппозицию, он добился назначения на этот пост своего ставленника генерала В. фон Браухича. Затем он расставил своих выдвиженцев и на ряд других важных должностей. Так, в частности, его брат полковник Б. Кейтель занял пост начальника управления кадров сухопутных войск (ОКХ) и вскоре стал генералом; майор Р. Шмундт стал личным военным адъютантом Гитлера и т. д. Сам Кейтель в 1938 году получил чин генерал-полковника.