Первым министром обороны в правительстве Гитлера стал генерал Вернер фон Бломберг, он же являлся главнокомандующим германскими вооруженными силами. Его штаб — Верховное командование вооруженных сил, OKW — было предназначено для объединения стратегических планов всех видов вооруженных сил и координации действий сначала 2, а потом и 3 служб. Позднее в OKW был создан штаб объединенных операций. В первый раз Германия получила единое военное руководство.
Однако система командования быстро начала разрастаться после создания министерства авиации под руководством Германа Геринга. Это новое учреждение теоретически имело одинаковый статус с министерством обороны, но на практике стояло выше его из-за положения Геринга в нацистской иерархии. Геринг немедленно начал в тайне создавать ВВС и попытался с самого начала захватить контроль над авиацией армии и флота.
Планы Геринга вызвали яростные споры по вопросам стратегии воздушной войны. ВМФ заявил, что ему требуется совершенно независимая авиация, специально обученная действиям над морем и имеющая специальные самолеты. Геринг оказался защитником единой авиации — возможно он просто не понимал все недостатки такой системы. Он считал, что должен руководить всей авиацией за исключением корабельных гидросамолетов. Даже те самолеты, которые должен был получать флот, должны были создаваться силами ВВС. Его целями в войне были господство в воздухе и стратегические атаки, поэтому он придавал мало значения сотрудничества с другими видами вооруженных сил. В его однобокости были исключения, например блицкриг 1939 — 41, однако они были гораздо более редки, чем казалось союзникам. То, что другим службам требуются свое оружие, свое обучение личного состава, свои коды и системы связи, Геринг просто отвергал. Вражда разгоралась.
Отчасти надеясь на изменение Версальских ограничений Редер в 1934 начал планировать строительство более крупных кораблей. Настало время строить еще 2 карманных линкора. 3 уже были построены и считались удачными кораблями, но Редер хотел получить более крупные и сильно вооруженные корабли. Гитлер не хотел тревожить иностранные державы поступками, явно противоречащими Версальскому договору. Поэтому он приказал Редеру начать проектирование более защищенного корабля. Но потом эти планы были изменены, и появились третья 11" башня. В этом случае водоизмещение доходило до 25000 тонн.
В этот период ВМФ по прежнему считал необходимым иметь рейдеры. Поэтому были сделаны секретные приготовления к переоборудованию 4 быстроходных торговых судов во вспомогательные крейсера. Необходимые орудия можно было получить у армии, однако проект был заброшен после ряда неприятных стычек. Но планирование продолжалось.
Строительство подводных лодок становилось все более и более реальным. Голландское конструкторское бюро спроектировало лодки для Турции и Финляндии. Они послужили основой для германских проектов. Финская лодка была частично спроектирована в Германии, и немцы испытывали ее, прежде чем передать финнам. Она стала прототипом первой серии германских малых прибрежных лодок — от U-1 до U-24 (250 тонн). Части для сборки этих лодок были тайно заказаны германским заводам. Редер предложил собрать 6 лодок к ноябрю 1934, чтобы иметь возможность использовать их в случае необходимости и начать воссоздание подводных сил. Гитлер отверг это предложение, но к началу 1935 все материалы были приготовлены. Именно тогда произошло резкое изменение перспектив германских вооруженных сил, что стало результатом агрессивной политики Гитлера.
В марте 1935 Гитлер открыто отверг ограничения Версальского договора. Он объявил об официальном создании ВВС под командованием Геринга в качестве третьей ветви военного министерства. Геринг также сохранил свой пост министра авиации. Морская авиация до некоторой степени попала в подчинение Герингу, когда были созданы Люфтваффе. По соглашению, подписанному в том же году, ВМФ должен был во время войны руководить военно-морского отделом Люфтваффе. Эта организация состояла из морских офицеров, переданных ВВС для этой цели. В ответ Геринг пообещал к 1942 году обеспечить создание 62 эскадрилий общей численностью около 700 самолетов со всеми необходимыми аэродромами и системой снабжения. На первый взгляд такое разделение выглядело разумным — однако оно не устраняло опасений тех, кто знал Геринга. После реорганизации авиация ВМФ, которую Редер характеризовал как "великолепную", начала приходить в упадок.
В июне 1935 был подписан Англо-Германский морской договор. Он стал жестом доброй воли со стороны Германии, показывающим, что она готова уважать геополитические интересы Великобритании, хотя и нарушила Версальский договор 3 месяца назад. Германия имела флот из 3 карманных линкоров, 6 легких крейсеров и 12 миноносцев. Теперь ей разрешили иметь флот, составляющий 35 % самого сильного в мире флота. Новый договор разрешал построить 5 линкоров, 5 тяжелых крейсеров, 11 легких крейсеров, 2 авианосца и 64 эсминца. Более того, если Англия увеличивала свой флот, то и эти цифры тоже увеличивались. Снова было разрешено строительство подводных лодок общим тоннажем 45 % от английского (или примерно 45 единиц на тот момент). Более того, можно было построить и 100 % от британского тоннажа за счет кораблей других категорий и после уведомления Великобритании. Но теперь Германии приходилось соблюдать ограничения на размер линкоров (35000 тонн), которые действовали после подписания Вашингтонского договора в отношении Британии. Германия подписала Лондонский протокол по подводным лодкам от 3 сентября 1936, согласно которому лодки должны были действовать строго по законам призового права. Он гарантировал безопасность пассажиров торговых судов и экипажей во время войны. Эти ограничения принимались во внимание не слишком долго, хотя в первые дни Второй Мировой войны германские лодки и пытались соблюдать призовое право. Однако развитие морской войны достаточно быстро сделало это невозможным.
В германском флоте этот договор был встречен с восторгом и теми, кто считал Великобританию потенциальным противником и теми, кто не желал войны с ней. По словам Гитлера с помощью этого договора Германия установит более тесные связи с Великобританией, признав ее господство на море. Германия не будет вовлечена в гонку морских вооружений, которую она не может выиграть и которая вызовет тревогу в Великобритании. Редер и все командование ВМФ согласились с этим. До самого начала войны Редер полагал, что амбиции Гитлера ограничиваются континентальной Европой, и потому можно будет еще достаточно долго поддерживать мир с Великобританией. В то же время этот договор радовал и офицеров, предвидевших неизбежную войну с Англией. Они полагали, что в случае войны силы Великобритании будут напряжены до предела, так как в войну вступит Италия и возможно Япония. Кроме того, ей придется обеспечивать прикрытие конвоев. В результате Германия сможет добиться равенства сил с Великобританией в Северном море. Однако эти выводы базировались на 2 предположениях. Во первых, война не должна начаться до того, как Германия завершит строительство кораблей, разрешенных новым договором. Во вторых, германские линкоры должны быть более новыми и мощными, чем английские.
28 июня 1935, через 11 дней после подписания договора, в Киле вошла в строй U-1. В 1934 году были построены закрытые, тщательно охраняемые эллинги, теперь они раскрылись, явив миру первую подводную лодку нового германского флота. К январю 1936 в состав флота вошли еще 11 малых подводных лодок. Все они были построены ДО подписания договора.
Первая флотилия подводных лодок носила имя героя-подводника Отто Веддингена. В ее состав вошли 3 малых прибрежных лодки (250 тонн). Ее командиром 28 сентября 1935 был назначен капитан 1 ранга Карл Дениц. Остальные подводные лодки использовались в качестве учебных. В течение года после подписания Лондонского договора были построены 24 малых лодки.
Любой анализ развития подводных лодок в межвоенный период и в годы Второй Мировой войны требует ясного понимания, что они из себя представляли. Понятие "подводная лодка", строго говоря, ошибочно. Скорее это "ныряющая лодка". До самого конца Второй Мировой войны лодки оставались в основном надводными кораблями. В надводном положении они находили свою жертву, преследовали ее, атаковали и удирали. Так было быстрее. На поверхности лодка могла выбирать оружие. Лодки погружались только чтобы избежать опасности или при попытке атаковать днем (что было совсем не типично). Под водой лодка теряла скорость и в некоторой степени безопасность, так как ее мог обнаружить асдик.