В 1920 году Вольвебер перебрался в Гамбург, который в это время был ключевым пунктом коммунистического движения на севере Германии. Здесь он руководил организацией красных моряков, здесь же началась его политическая карьера, когда в 1921 году его избрали политическим секретарем коммунистической организации в Касселе в округе Гессен-Вальдек. Рассказывая о том времени в своих воспоминаниях, советская разведчица Зоя Рыбкина утверждает, что Вольвебер был одним из первых немцев, привлеченных к сотрудничеству с советской разведкой. Однако, как она считает, после того как Вольвебера избрали в руководство Компартии Германии, он отошел от этой деятельности.
Если это утверждение Рыбкиной верно, то получается, что Вольвебер первый раз сотрудничал с советской разведкой в самом начале 20-х годов, так как уже в 1921 году на VIГ съезде Компартии Германии был избран, а в 1923 году на VIII съезде переизбран в ее Центральный комитет и его руководящее ядро — «Централе». А так как известно, что в 1920—1921 годах Вольвебер был активным участником революционных выступлений в Средней Германии, то можно предположить, что в этот период он имел дело с сотрудниками советской военной разведки (Разведупром РККА), которые активно участвовали в организации и вооружении боевых отрядов германской компартии.
В 1922 году Вольвебер впервые побывал в Москве— как делегат IV конгресса Коминтерна. Возможно, именно в это время он прошел военное обучение в СССР. А уже в 1923 году Вольвебера направляют в Германию для подготовки будущего всеобщего восстания. В этот период он переходит с работы в округе в центральный аппарат компартии. Однако «германский Октябрь» так и не состоялся, а вооруженное выступление рабочих Гамбурга было подавлено войсками Веймарской республики. В результате Вольвебер был вынужден перейти на нелегальное положение. Но это его не спасло: в июле 1924 года он был арестован и в декабре 1925 года приговорен к трем годам тюремного заключения. Впрочем, весь назначенный ему срок он не отсидел и уже в начале марта 1926 года вышел на свободу.
Сразу же после освобождения Вольвебер активно включился в политическую деятельность КПГ. В 1926 году он начал работать профсоюзным секретарем Компартии Германии, а с начала 1929 года — политическим руководителем компартии в округе Силезия. В 1928 году Вольвебер был избран депутатом прусского ландтага, а в 1929 году — ландтага Нижней Силезии. С 1930 года он один из руководителей профсоюза компартии, так называемой «красной профсоюзной оппозиции» в северном округе Вассерканте, с ноября 1932 года — депутат рейхстага.
В том же, 1932 году политическая лояльность Вольвебера партийному руководству КПГ была по достоинству вознаграждена — его назначают руководителем Орготдела ЦК. Таким образом, к моменту прихода к власти Гитлера Вольвебер входил в обойму высших руководителей Компартии Германии. Но судьбе было угодно, чтобы он оставил политику и стал разведчиком.
В декабре 1932 года Вольвебер выезжает в Данию, где под прикрытием архитектурно-инженерного бюро
«А. Сальво & К» создает филиал Западноевропейского бюро Коминтерна в Копенгагене. Можно предположить, что в это время он действовал вместе с польским коммунистом Брониславом Бортновским, который в начале 20-х годов был резидентом советской военной разведки в Германии, с 30-х годов работал в Берлине, а затем в Копенгагене по линии Коминтерна.
В августе 1933 года Вольвебер перебрался в Париж. В этот период он известен как Шулыд, Андерсон и Курт Шмидт. Но вскоре он возвращается в Копенгаген, где продолжает вести организационную работу в Западноевропейском бюро Коминтерна. Здесь же летом 1933 года Вольвебер получает назначение, которое сделало его всемирно известным персонажем «невидимого фронта». Он становится секретарем, на первый взгляд, довольно невинной организации — Международного союза моряков и портовых рабочих. Эта организация имела свои филиалы по всему миру, однако наибольшим влиянием пользовалась в портах Северного моря. Союз эффективно действовал через свои так называемые интернациональные клубы моряков, раскиданные по всему миру (были они и в портовых городах СССР). Эти клубы являлись хорошим прикрытием для нелегальной работы. Здесь планировались операции, инструктировались агенты, передавалась информация, фальшивые паспорта и самые что ни на есть настоящие бомбы.
Советская разведка и раньше использовала немецких и скандинавских моряков в своих целях, в основном в качестве курьеров. Теперь же перед Вольвебером, который окончательно отошел от партийной работы, стояла гораздо более серьезная задача. ИНО НКВД поручил ему создать из особо доверенных членов Международного союза моряков и портовых рабочих боевое ядро для проведения акций саботажа и диверсий. Вскоре такая группа диверсантов-моряков численностью 25 человек была создана и приступила к работе.
Одной из первых успешных диверсий, совершенной группой Вольвебера, было уничтожение японского судна «Таимо мару», следовавшего из Роттердама на Дальний Восток с грузом оружия, предназначенного для японской армии в Маньчжурии. Считается также, что в, этот период агенты Вольвебера затопили в заливе Таранто итальянский корабль «Фельце», а также устроили пожар на французском лайнере «Джодж Филлипар». Но скорее всего, это одна из многочисленных легенд о «великом диверсанте», тем более что непонятно, зачем потребовалось топить эти суда. В конце 1933 года в группе Вольвебера произошел провал. Один из его агентов был арестован в Роттердаме, когда пытался установить мину на одном из стоящих в порту судов. В результате группа временно прекратила свою деятельность, а сам Вольвебер в начале 1934 года выехал в СССР, где некоторое время был инструктором по работе среди иностранных рабочих в Ленинграде. Но в «колыбели революции» он не задержался и вскоре получил новое задание — отправиться в Скандинавию и возобновить руководство своим нелегальным разведывательно-диверсионным аппаратом. И уже весной 1935 года Вольвебер вместе с норвежкой Рагнхильд Вииг, с которой он познакомился в Ленинграде, выехал в Норвегию.
В 1935—1940 годах Вольвебер проживал в Осло, откуда руководил небольшими, но чрезвычайно эффективными боевыми группами в Нарвике, Бергене, Амстердаме, Копенгагене, Риге, Ревеле и других портовых городах Северной Европы. Ближайшими его помощниками в этот период являлись латыш Эрнест Ламберт (настоящее имя Эрнст-Александр Давидович Аватин), действовавший в Копенгагене, норвежец Мартин Расмуссен Хьельмен в Осло и голландец Йозеф Римбертус Шаап, директор интернационального клуба моряков в Роттердаме.
Через год после приезда Вольвебера в Норвегию в Испании начался фашистский мятеж генерала Франко, вскоре вылившийся в кровопролитную гражданскую войну. Мятежников с первых дней боев активно поддерживали Германия и Италия. Они не только посылали Франко оружие, боеприпасы и военную технику, но и направили в Испанию свои воинские контингенты. Вмешательство Германии и Италии в испанскую войну вызвало соответствующую реакцию Советского Союза, который с сентября 1936 года официально начал оказывать помощь республиканскому правительству Испании. Тогда же Вольвебер получил из Москвы указание активизировать свою диверсионную деятельность. Используя всеобщее сочувствие к героической борьбе испанских республиканцев против франкистов среди традиционно революционно настроенных моряков, Вольвебер быстро расширил свою сеть, которая с того времени получает наименование «Лига Вольвебера».
В результате количество поврежденных кораблей, осуществлявших перевозки оружия для Франко, резко возрастает. Так, в результате взрывов были серьезно повреждены датское грузовое судно «Вестплейн», японский грузовой пароход «Казу мару», германское судно «Клаус Беге», польское судно «Стефан Баторий», румынский сухогруз «Бессарабия» и другие корабли, перевозившие в Испанию оружие. Как правило, диверсии совершались на судах, находившихся в портах или доках. Помимо диверсий агенты Вольвебера занимались организацией актов саботажа. Например, в Швеции им удалось остановить работу электростанции, от которой зависела добыча и поставка железной руды в Германию. Кроме того, «Лига Вольвебера» организовала нелегальную доставку оружия испанским республиканцам. Всего же, согласно утверждениям французских исследователей Р. Фалиго и Р. Коффера, авторов книги «Всемирная история разведывательных служб», организацией Вольвебера в этот период было уничтожено или повреждено около 20 немецких кораблей, три итальянских, два японских и одно румынское судно.