Таким образом, справившись с восстанием Танкмара, Оттон, казалось, укрепил свои позиции. Однако фигура мятежника продолжала оставаться примером: очень скоро (в 939 году) последовал второй, гораздо более опасный мятеж, во главе которого встал младший брат Оттона, Генрих. «Vita Mathildis» («Житие Матильды») объясняет причину его выступления тем, что Генрих хотел захватить власть, поскольку был рожден «in aula regali» («в королевском дворце»). Подобно своему предшественнику Танкмару, он выступил против унаследования престола Оттоном, но с большими на то основаниями, будучи королевским сыном, отстраненным от власти. Истинной причиной мятежа определенно была реорганизация престолонаследия. Ведь хотя братья короля и были наделены собственными владениями, очевидно, что в их глазах это не являлось заменой того господства, участия в котором они требовали. Их поддерживала часть знати, и поскольку герцоги видели в энергичном молодом короле угрозу своему положению, они также были готовы примкнуть к мятежникам, тем более что не чувствовали себя обязанными лично Оттону. Таким образом, Генрих сразу нашел поддержку у Эберхарда Франконского, а кроме того и у честолюбивого Гизельберта Лотарингского, который все еще вынашивал свои собственные планы на западе. Поскольку Генрих не мог рассчитывать на полную поддержку в Саксонии, он направился к Гизельберту, чтобы начать восстание из Лотарингии. Оттон последовал за ним. Попав сначала в тяжелое положение при переправе своей армии через Рейн под Биртеном, южнее Ксантена, он все-таки сумел обратить в бегство превосходящие силы противника. После своей победы (в марте 939 года), которую его сторонники, по свидетельству Лиутпранда, приписали молитве короля и чудодейственной силе священного копья, Оттон смог захватить и саксонские бурги Генриха. В результате Саксония была потеряна повстанцами, но в Лотарингии они продолжали удерживать свои позиции, тем более что Гизельберт и Генрих получили теперь поддержку западнофранкского Каролинга Людовика IV. Учитывая сложившиеся обстоятельства, тот надеялся вернуть себе Лотарингию. Оттон парировал его вмешательство, вступив в связь с противниками Людовика внутри его собственной страны, прежде всего с герцогом Гуго Французским. Опасность с запада еще не была устранена, когда герцог Эберхард Франконский вторгся в южные области и, захватив бург Брейзах, начал грозить Эльзасу. Попытка прийти к мирному соглашению с Эберхардом при посредничестве архиепископа Фридриха Майнцского не удалась, после чего архиепископ и многие епископы встали на сторону мятежников. Положение короля становилось все более угрожающим: в то время как Оттон осаждал Брейзах, мятежники намеревались перенести военные действия через Рейн в Саксонию. В этих чрезвычайно трудных обстоятельствах короля спасла верность его сторонников из дома Конрадинов, швабского герцога Германа и графов Удо и Конрада Курцбольда, которые напали со своим войском на Эберхарда и Гизельберта под Андернахом (2 октября 939 года) и наголову разбили их. Эберхард пал в бою, Гизельберт, пытавшийся бежать, утонул в Рейне. Покорившийся Генрих был помилован. Сам Оттон — во многом благодаря собственной стойкости — благополучно вышел из тяжелейшей в своей жизни ситуации.

Победа при Андернахе возвратила Оттону свободу действий. Он сразу же сделал выводы из того противостояния, которое ему пришлось пережить. Поскольку Людовик IV был связан с заговорщиками, Оттон в 940 году первым предпринял поход во Францию, во время которого в Аттиньи позволил присягнуть себе на верность противникам Людовика под предводительством герцога Гуго Французского. Вступив в том же году с войсками в Бургундию и взяв под свою защиту юного наследника престола Конрада, он начал затем реорганизацию отношений между королевской властью и племенными герцогствами. Герцогство Франкония после смерти Эберхарда вообще не было передано никому в удел — оно было подчинено непосредственно короне и тем самым потеряло свою политическую самостоятельность. Саксонию король также удерживал в собственных руках. Таким образом, связав сначала два герцогства непосредственно с королевской властью, он усилил свое положение. Третье герцогство, Лотарингию, он вверил своему вновь вошедшему в милость брату Генриху. В Швабии и Баварии, герцоги которых выдержали испытание, он пока оставил прежнее правление, но между обоими герцогскими домами и членами королевской семьи были установлены родственные отношения. Сначала брат Оттона Генрих был уже в 938 году обвенчан с Юдифью, дочерью баварского герцога Арнульфа, затем сын короля Людольф в 940 году обручился с Идой, дочерью Германа Швабского. Вдова Гизельберта Герберга, старшая сестра Оттона, должна была, согласно его замыслу, в 939 году выйти замуж за нового баварского герцога Бертольда, однако сочеталась браком с королем Людовиком IV Западнофранкским. Как вскоре выяснилось, эти брачные связи подготовили приобретение племенных герцогств членами королевской семьи. Совершенно очевидно, что в последующие годы Оттон продолжал последовательно добиваться этой цели.

Он не позволил себе сойти с проторенного пути даже тогда, когда его брат Генрих, который не смог удержаться в Лотарингии, в 941 году еще раз подготовил заговор, который должен был принести смерть Оттону и корону Генриху. Однако заговор был своевременно раскрыт, и Генрих, который тщетно пытался спастись бегством, был заключен под стражу в Ингельхейме. На этот раз приговор ему должны были вынести князья. Однако когда Генрих на Рождество 941 года в покаянном одеянии пал ниц перед королем во франкфуртском пфальце, Оттон, чьей высочайшей добродетелью, согласно Видукинду, была «dementia» («мягкосердечие»), и на этот раз простил брата и снова одарил его своей милостью. Это примирение, в котором приняла участие также мать короля Матильда, оказалось долговечным.

Отныне власть Оттона больше не оспаривалась. Первая мощная волна выступлений, вызванных отстранением от власти братьев короля, была остановлена в 941 году, и с укрепившихся позиций Оттон по-прежнему прилагал свои усилия, направленные на установление тесной связи между королевской фамилией и племенными герцогствами. В Лотарингии он после неудачи Генриха сначала назначил герцогом местного графа Оттона, сына Рихвина Верденского, но тому не удалось установить сильную герцогскую власть. После смерти герцога Оттона в 944 году его титул унаследовал граф Конрад Рыжий, имевший богатые владения в районе Вормса и Шпейера и уже многие годы входивший в ближайшее окружение короля. После возведения его в герцогский статус король Оттон установил с Конрадом еще более тесные отношения, обвенчав его предположительно в 947 году со своей дочерью Лиутгардой. Одновременно брат Лиутгарды Людольф сочетался браком с дочерью швабского герцога Идой, с которой был помолвлен совсем юным (в 940 году). Поскольку у отца Иды, Германа Швабского, не было сыновей, этот брак недвусмысленно указывал на то, что Людольфу предназначалось унаследовать после него Швабское герцогство. И действительно, Оттон передал ему герцогство после смерти Германа в 949 году. Еще раньше умер Бертольд Баварский (23 ноября 948 года), и смерть этого герцога Оттон тоже, подобно тому, как сделал это в Лотарингии и Швабии, превратил в повод для подчинения герцогства своему роду — в обход несовершеннолетнего сына герцога Бертольда. Король, очевидно, в соответствии со своим давним планом, наделил Баварским герцогством брата Генриха, связанного через супругу Юдифь родственными узами со старинным герцогским домом Лиутпольдингов.

В итоге все без исключения германские племенные герцогства оказались связаны с королевской семьей. В течение одного десятилетия Оттону удалось реорганизовать отношения между королевской властью и институтом родового герцогства — посредством того, что он или назначал герцогом члена королевской семьи, соединяя его брачными узами с прежней герцогской фамилией, или же с помощью брака связывал владельца герцогства с королевской семьей. Исключение составили Саксония и Франкония, власть над которыми Оттон сохранил в собственных руках.