К 1935 подводные лодки значительно улучшили свои характеристики по сравнению с 1918 годом. Они могли действовать бесшумно; могли оставаться под водой гораздо дольше; могли наносить удар, не выдавая своей позиции, используя бесследные электроторпеды; могли более эффективно уничтожать корабли, используя торпеды с магнитным взрывателем, которые взрывались под килем. Улучшение радиостанций создало возможность реализации совершенно новых тактических и даже стратегических планов.
Карл Дениц был идеальным командиром для вновь созданных подводных сил. За время службы на флоте он приобрел обширные знания. Он в частности служил на легком крейсере "Бреслау", который вместе с линейным крейсером "Гебен" в 1914 году прорвался через все Средиземное море в Константинополь, что привело к вступлению Турции в войну. После войны он продолжал совершенствовать свои знания во время службы на разных кораблях. Кульминацией стало командование легким крейсером "Эмден" во время учебного плавания в Атлантическом и Индийском океанах. Однако именно 2 года службы на подводных лодках в период Великой Войны определили его будущее. Столь сильным было это впечатление, что в 1919 году Дениц решил остаться служить на флоте именно в надежде на возрождение подводных сил. Ожидание затянулось на 16 лет. Однако за это время он отработал новые тактические и стратегические планы использования подводных лодок. Когда настал день, он поднялся на мостик и вывел в море крошечную U-1, уже имея в голове план действий огромного флота океанских лодок, который поставит под угрозу само существование величайшей морской держав мира.
Примерно в это же время в Денице произошла серьезная перемена. Сведя вместе внешний формализм службы на надводных кораблях и почти братские отношения на подводных лодках, Дениц выработал краткость и резкость речей и приказов, которые он компенсировал личными отношениями с людьми. В оперативном центре или на совещаниях с командирами после возвращения лодки из похода Дениц уделял огромное внимание самым мелким фактам и предложениям. Он задавал наводящие вопросы, не избегая самых щекотливых тем. Потом, отбросив в сторону все формальности, адмирал приглашал офицеров на завтрак или обед, где царили отношения добросердечности и товарищества. Такое поведение наиболее ярко демонстрирует различия между Деницем и строгим и авторитарным Редером.
Дениц понял, что нельзя выиграть войну только с помощью guerre de course — нескоординированных ударов по торговому судоходству. Главный истребитель торговли периода первой Мировой войны — подводная лодка — остался тем же. Однако использовать его планировалось совершенно новыми способами. Он всегда держал в голове как главную цель "войну тоннажа" — максимальный потопленный тоннаж на день пребывания лодки в море. Но при этом в качестве единственного решающего театра Дениц избрал Северную Атлантику. Сильно защищенным конвоям он собирался противопоставить "управляемые операции", то есть массирование сил с помощью радио. Во время первых учений по групповым атакам Дениц попробовал руководить атакой с подводной лодки, находящейся в районе боя. Позднее, когда эффективность радиосвязи с береговым штабом значительно повысилась, он испробовал иной метод. Теперь первая лодка, обнаружившая конвой, становилась своеобразным радиомаяком, наводя на цель другие лодки, а Дениц изменял их диспозицию так, чтобы перебросить в район боя как можно больше лодок. Установив контакт с конвоем, лодки действовали независимо, атакуя ночью из надводного положения. Они прекращали бой с наступлением рассвета и выходили вперед по курсу конвоя, чтобы сосредоточиться для атаки на следующую ночь. Учения проводились с максимальным приближением к реальным условиям. В результате в начале ноября 1936 U-36, пытаясь прорвать кольцо охранения и провести атаку с малой дистанции, была протаранена и потоплена эскортным кораблем.
Тактика Деница требовала многочисленных "глаз", чтобы найти конвой, поэтому он хотел строить как можно больше средних лодок. Он чувствовал, что такие лодки будут более маневренны и менее уязвимы, чем большие. Однако высокие чины в командовании ВМФ решили, что выгоднее строить более крупные лодки (до 2000 тонн), чтобы использовать их в отдаленных районах как подводные крейсера. Кое-кто даже предлагал снять с лодок радиостанции, утверждая, что от них больше вреда, чем пользы. Рейдерская война столкнулась с войной тоннажа. Споры, как лучше использовать разрешенные Англо-Германским морским договором лимиты, вызвали 2-летний перерыв в строительстве. Наконец подводные крейсера были вычеркнуты из программ.
В 1935 была запланирована резко увеличенная кораблестроительная программа с учетом новых лимитов, возможностей верфей и наработанного опыта. Ее целью было достичь 35 % тоннажа британского флота к 1944 или 1945. Первым шагом стала постройка 2 увеличенных "Дойчландов" с дополнительной третьей башней. Эти небольшие линкоры или линейные крейсера имели водоизмещение 31800 тонн (официально было объявлена цифра 26000 тонн). Их 9 — 11" орудий выглядели достаточно скромно на фоне зарубежных линкоров, но броня была вполне нормальной. Они имели дальность плавания 10000 миль при скорости 19 узлов, а максимальная скорость 32 узла была очень высокой. Каждый корабль имел мощную среднюю артиллерию из 12 — 5.9" орудий и многочисленные зенитные орудия.
Эти корабли ("Шарнхорст" и "Гнейзенау") и следующая пара ("Бисмарк" и "Тирпитц") использовали котлы высокого давления с перегретым паром и турбины. Большие дизеля были бы выгоднее, однако их еще требовалось создать, а это задержало бы строительство линкоров.
Одновременно были заказаны 3 тяжелых крейсера, тоже превысившие официальное водоизмещение. На них были поставлены турбины, что ограничило дальность плавания, поэтому крейсера оказались не слишком полезны в Атлантике. 16 эсминцев той же программы тоже имели слишком малую дальность плавания по той же причине. Были заказаны 28 подводных лодок и множество мелких кораблей. С введением воинской повинности количество гардемаринов было увеличено, и для нужд быстро растущего флота готовилось все больше офицеров.
Кораблестроительная программа 1936 знаменательна началом строительства 2 линкоров — "Бисмарка" и "Тирпитца". Хотя Гитлер жаждал получить линкоры по 80000 тонн с 21" орудиями, Редер и его штаб сумели доказать фюреру, что 16" орудия отвечают любым мыслимым требованиям. Поэтому были спроектированы корабли под этот калибр, что было много дешевле и более практично в смысле базирования и ремонта. "Бисмарк" и "Тирпитц" имели 41700 и 42900 тонн соответственно и были вооружены 8 — 15" орудиями. Они выглядели сильнее современных им британских и французских кораблей. Однако немцы заявили, что водоизмещение этих линкоров составляет только 35000 тонн. Корабли имели очень мощную противоминную артиллерию — 12 — 5.9" орудий — и более 40 скорострельных зениток. Линкоры имели отличную систему разделения на отсеки и толстую броню, превосходную цейссовскую оптику и великолепные системы управления огнем. Они могли развить почти 31 узел, а их дальность плавания равнялась 8000 миль. Конструкторы создали самые мощные в мире линкоры и теперь собирались начать строить еще более мощные.
Быстро развивались береговые структуры. Были запущены завод по производству электро-акустических торпед и завод лодочных дизелей. На флот начали работать множество частных верфей. В частности они начали строительство специальных танкеров-судов снабжения, имевших очень высокую скорость — до 21 узла.
В эти годы иностранные дела мало касались флота. Все агрессивные действия проводили исключительно сухопутные силы. Начиная с выдвижения к Рейну и до Европейских кризисов 1938 флот был вынужден находиться в состоянии готовности на случай вмешательства иностранных держав, но большая часть его руководства пребывала в уверенности, что война остается такой же далекой. Американский акт о нейтралитете 1937 и Англо-Германский морской договор от этого года лишь укрепили подобную уверенность. Последний (Приложение к Лондонскому договору 1935 года) был достаточно странным документом, если его не принимать за элементарную попытку немцев уверить Англию в своей добросердечности. Основным положением договора было подтверждение лимита в 35000 тонн для линкоров, что Германия уже нарушила. Другой пункт предусматривал взаимный обмен информацией об отклонении от положений договора, если это будет вызвано действиями третьих стран. Следовало сообщать о постройке любых кораблей. (Редер позднее оправдывался, утверждая, что не хотел выступать зачинщиком гонки вооружений и потому никому ничего не сообщал. А дополнительный тоннаж линкоров пошел на усиление их оборонительных качеств. Довольно странное объяснение.)