Император еще шесть недель оставался в Святой земле, прежде чем вернуться на Сицилию, где вновь вспыхнули спровоцированные папой волнения. В Святой земле патриарх Герольд, оставшийся в Акре на время коронации, послал в Иерусалим архиепископа Цезареи наложить интердикт на все церкви города. Со своей стороны, Фридрих II постарался наладить оборону христианских владений, потребовав от баронов прекратить свои распри. 17 и 18 марта Фридрих II встретился с великими магистрами госпитальеров и тамплиеров, но не получил от них никакой помощи. Было ясно, что отныне в Святой земле Фридрих II мог рассчитывать только на тевтонских рыцарей, и он щедро вознаградил их за преданность. Прежде чем уехать с Востока он, помимо замка Монфор, подарил ордену замок Торона, земли, расположенные возле Сидона, а также бывший дворец королей Иерусалимских, расположенный в Святом городе, на Армянской улице возле башни Давида.
Герман фон Зальца прекрасно осознавал, что отлучение от Церкви Фридриха II в долгосрочной перспективе может иметь нежелательные последствия как для императора, так и для ордена. Он направил к папе епископа Реджио, чтобы подготовить примирение папы с императором, по Григории IX оказался несговорчивым, ибо, с его точки зрения, все, чего добился мирными переговорами в Яффе Фридрих II, принесло лишь незначительную пользу. Герман фон Зальца был поражен явной несправедливостью папы, о чем сообщил ему в длинном послании: он раскритиковал бескомпромиссность понтифика, посчитав, что его позиция поставила императора в приниженное положение во время переговоров с султаном Египта.
Фридрих II оставил Иерусалим 20 марта, чтобы отправиться в Акру, куда прибыл несколькими днями позже. Он тотчас же созвал христиан па всеобщее собрание, где предложил план реорганизации королевства и более строгое централизованное управление государством с целью защиты христианских земель, что было более действенным, чем феодальная анархия христианских баронов. Но патриарх и тамплиеры смогли настроить население против Фридриха II. Тамплиеры открыто пошли па разрыв.
Глубоко разочарованный император уехал из Акры 1 мая и в сопровождении короля Кипра и нескольких своих приверженцев 10 нюня прибыл в Брппдпзи.
В то время Южную Италию захлестнула волна бунтов; в свою очередь, ломбардские города, подстрекаемые агентами папы, тоже подняли мятеж. Фоме д'Ачерра, сопровождавшему Фридриха II, было поручено навести порядок; он получил в свое распоряжение несколько сотен тевтонских рыцарей, вернувшихся из Палестины. Папа попытался настроить против императора европейских правителей, однако популярность «освободителя» Иерусалима была столь велика, что усилия понтифика оказались тщетными. В конце октября император уже контролировал положение. Герман фон Зальца, который присоединился к Фридриху II, снова оказался востребованным; его отправили с миссией к папскому двору Григорий IX был непоколебим; фон Зальца удалось убедить его вступить в переговоры только тогда, когда он сообщил папе, что Тевтонский орден и немецкие князья выступят гарантами искренности императора. В подтверждение своих чистосердечных намерений Фридрих II заверил папу, что в случае, если он когда-либо нарушит свое слово, то будет тут же считаться отлученным от Церкви. Эта последняя гарантия разрядила ситуацию. Длительные переговоры, начатые Германом фон Зальца и продолженные от имени императора епископами Реджио, Модены, Мантуи и Винчестера, наконец закончились. 28 августа 1230 г. в Чепрано, на папской земле, недалеко от границы королевства Сицилия, два кардинала, панские легаты, сообщили Фридриху II, что отлучение от Церкви и все интердикты, которые были на него наложены с 1227 г., теперь сняты.
Герман фон Зальца, который во время последней фазы переговоров находился рядом с императором, еще раз мог похвастаться своим умением восстанавливать мир между духовной и мирской властями.
1 сентября папа Григорий IX согласился наконец приyять в Ананьи императора, которого, как всегда, сопровождал Герман фон Зальца. Нам неизвестно, что сказали друг другу император и папа во время встречи и на последовавшем пиру, так как единственным свидетелем этих бесед был Герман фон Зальца, а он проявил по этому поводу невиданную скромность. Но достоверно известно, что Фридрих II, названный папой «возлюбленным сыном Церкви», остался в выигрыше. Действительно, папа на следующий же день предписал патриарху Иерусалима и великим магистрам госпитальеров и тамплиеров строго соблюдать условия Яффаского договора, заключенного с Маликом аль-Камилем, и не предпринимать никаких военных действий против мусульман.
В течение последующих лет Герман фон Зальца находился в Европе практически безотлучно. Правда и то, что после Яффаского договора в Святой земле воцарился более-менее прочный мир между мусульманами и христианами; символ Иерусалима, города, где проходили одновременно христианские и мусульманские богослужения, выражал ту реальную веротерпимость, которую Запад, а именно папство, не понимали и еще меньше принимали. Герман фон Зальца теперь руководил военными операциями ордена против пруссов и не жалел сил на привлечение рыцарей к борьбе с язычниками.
С момента заключения соглашения между папой и императором Герман фон Зальца не ослаблял бдительности, так как знал, настолько хрупким было примирение между папой и императором. Однако по крайней мере до 1236 г. отношения между папством и империей протекали под знаком мира. Григорий IX понимал, что популярность Фридриха II, связанная с той ролью, которую он сыграл в бескровном возвращении Иерусалима, была огромна не только в Германии, по и на всем Западе. Поэтому он, не колеблясь, вознес хвалу императору и Тевтонскому ордену, когда 1 июня 1235 г. опубликовал буллу, канонизирующую Елизавету Венгерскую, вдову ландграфа Людвига Тюрингского, умершую в 1231 г. Св. Елизавета, родственница императора по своему браку с ландграфом, была всю жизнь преданной и щедрой заступницей ордена. Новый ландграф, брат Людвига, Конрад Тюрингский (1227-1240) тоже стал верным покровителем ордена. В 1234 г. при поддержке императора и Германа фон Зальца Конрад заручился согласием папы передать госпиталь францисканцев в Марбурге Тевтонскому ордену; госпитальная часовня, которая была построена заботами Фридриха II, тоже была передана тевтонским рыцарям. Влияние, которое орден имел на Конрада, было настолько значительным, что он вступил в него 18 ноября 1234 г. вместе с тюрингскими рыцарями Германом фон Хелдрупгеном и Дитрихом фон Грюнингеном. Эмоциональные узы, которые объединяли Фридриха II с Тевтонским орденом и германскими князьями, особенно с ландграфами Тюрингии, сделали орден крупной морально-политической силой в Священной Римской империи. 1 мая 1236 г. останки Св. Елизаветы Венгерской были эксгумированы, помещены в золотую раку и переданы в часовню марбурского госпиталя. С тех пор Св. Елизавета считается покровительницей ордена тевтонских рыцарей.
Отныне Герман фон Зальца большую часть времени проводил с Фридрихом II, оставаясь самым верным советчиком, к которому охотно прислушивался император. В 1235 г. во время вооруженного противостояния императора с сыном, «королем римлян» Генрихом VII, которому в 1231 г. было доверено отвечать за германские дела, великий магистр получил свое последнее важное дипломатическое поручение. Молодой принц вскоре рассорился с отцом и по наущению папы заключил союз с ломбардскими городами. Но подавляющее большинство германских принцев не последовало за ним по пути измены и осталось верным освободителю Иерусалима. Герман фон Зальца, который сопровождал Фридриха с момента его отъезда из Италии в Южную Германию, был направлен к мятежному молодому принцу и принял его капитуляцию 2 июля 1235 г. Безусловно, именно благодаря умиротворяющему влиянию великого магистра на императора молодой Генрих VII избежал высшей кары.
Этим завершается участие Германа фон Зальца в мирских делах. Постаревший больной великий магистр поселился на юге Италии, где провел последние годы своей жизни. 20 марта 1239 г. он закончил свой жизненный путь в местечке Балетта в Апулии в тот самый день, когда Григорий IX объявил о новом отлучении Фридриха II от Церкви.