В 1232 г. Герман Балк во главе рыцарей и недавно прибывших крестоносцев начинает систематически завоевывать земли Кульмерланда. Вблизи Старогарда тевтонцы построили город Кульм (Хелмно по-польски), планировка которого предусматривала расположение зданий в шахматном порядке вокруг главной площади, над которой возвышался замок, ставший впоследствии резиденцией правителей Пруссии вплоть до 1309 г. Оба города — Торн и Кульм — получили от великого магистра Тевтонского ордена хартию, датированную 28 декабря 1233 г. и известную под названием Кульмская хартия, где предусматривались дополнительные привилегии. Хартия была подписана Германом фон Зальца и касалась германского населения. Заимствованная из Магдебургского права, эта хартия послужит образцом для всех хартий, касающихся новых городов, что будут построены в Пруссии; она предоставляла городской общине довольно широкие права, административную автономию и право ежегодно избирать служащих магистратов; помимо всего прочего, община брала себе часть доходов от правовых издержек; зато орден оставлял в своем владении укрепления и обязывал торговцев и военных граждан нести воинскую повинность в рядах постоянного охранного подразделения.
Вскоре после строительства Кульма тевтонские рыцари приступили к строительству нового замка в Мариенвердере, что возвышался над рекой Лабой — притоком Вислы. Мариенвердер станет резиденцией епископов Померании с 1254 по 1526 г.
Колонисты все время прибывали. На призыв папы откликнулись и крестоносцы: они пользовались в Пруссии теми же привилегиями, которыми пользовались крестоносцы в Святой земле. Военная кампания против Пруссии началась в конце 1233 г.; военные действия велись Тевтонским орденом, как правило, в холодное время года: суровый климат позволял армии спокойно форсировать реки и речушки, скованные толстым льдом, что давало возможность застать противника врасплох. В зимнюю кампанию 1233-1234 гг. под тевтонскими знаменами собрались крестоносцы из всех воеводств Польши. Среди них был Конрад из Мазовии, который командовал не только крестоносцами, но и прибывшими из воеводств Краковского и Сандомирского пешими и конными солдатами, Генрих, герцог Силезии, Владислав, князь Великой Польши, и даже Святополк, князь Поморья.
Переправившись через замерзшую Вислу, крестоносцы столкнулись с пруссами на берегу реки Сиргуна около Христбурга. На захваченной территории тевтонцы построили крепости Кульмесее и Рехден, что позволило им контролировать все земли Померании. В последующие годы они взялись за Помезанию, которую не без труда усмирили; здесь была построена в 1237 г. крепость Эльбинг (Эльблонг) на острове, в устье реки, известной под тем же названием. Разрушенная в 1239 г. помезианцами крепость была построена заново, но немного севернее, а именно в том месте, где Эльбинг соединяется с озером Драузен; колонисты, прибывшие из Любека и Мейдена, участвовали в строительстве города, защищенного новой крепостью, хартией 1246 г. городу были дарованы привилегии, заимствованные из Любекского права.
Когда в 1239 г. умер Герман фон Зальца, тевтонцы уже контролировали весь Кульмерланд, а также Поморье и Помезанию. По мере того как завоевывались прусские провинции, орден раздавал часть земель крестоносцам, те, в свою очередь, приглашали из Германии колонистов и таким образом осуществляли заселение страны и ее «германизацию». Завоевание прусских земель продолжалось и при великих магистрах — Конраде Тюрингском и Герхарде фон Мальберге. Ничего не менялось. Подчинив местного прусского князька и обратив его в христианство, что, в свою очередь, приводило к обращению его подданных, строили в центре завоеванной территории крепость, вокруг которой в скором времени расстраивался город. Начиная с 1239 г. были покорены земли Вармии, Натангии и Бартонии; там были возведены крепости Крецбург в Натангии, Хейльцьберг и Браунсберг в Вармии, Бартенштайн, Россель и Вейссенбург в Бартонии. Заняв прусскую крепость, расположенную на северо-востоке Эльбинга, что на полуострове, соединяющем Фриш-Хальф с Балтикой, тевтонцы построили новую крепость, которую назвали Балга. К этому времени они уже контролировали половину Пруссии.
Севернее, в Ливонии, развитие событии привело к тому, что Тевтонский орден вынужден был вмешаться. Епископ Риги страдал от непрерывных набегов со стороны литовских племен, не обращенных до сей поры в христианство, которые угрожали юго-востоку его владений. Несмотря на конфликты, вызванные личными интересами, епископ Риги все же мог рассчитывать на поддержку Ордена меченосцев в борьбе против литовцев. 22 сентября 1236 г. рыцари-меченосцы потерпели крупное поражение в битве на Сольских болотах (битве при Шауляе), тогда погиб великий магистр их ордена. Меченосцы обратились за помощью к тевтонским рыцарям. В свое время великий магистр обратился к великому магистру Тевтонского ордена Герману фон Зальца с предложением объединить оба ордена в один, но фон Зальца ответил отказом. После смерти своего магистра меченосцы обратились к папе. Григорий IX отнесся с пониманием к просьбе меченосцев и передал делегатам ордена две папские буллы от 12 мая 1237 г., в которых значилось, что Орден меченосцев сливается с Тевтонским орденом. Имущество меченосцев переходило под контроль Тевтонского ордена. Единственная уступка, с учетом особенностей Ордена меченосцев, отраженная в булле De unione, заключалась в том, что Ливония оставалась автономной территорией и управлялась местным магистром. Капитул Тевтонского ордена, который заседал в Марбурге, передал Герману Балку пожизненно должность магистра в провинции Ливония, которую он совмещал, в виде исключения, со своими обязанностями в Пруссии. Было принято решение направить в Ливонию шестьдесят рыцарей-тевтонцев для поддержки меченосцев.
В это время нависла новая угроза над окраинами христианской Европы — нашествие зимой 1236-1237 гг. татаро-монголов, которых там называли просто татарами. Последние, разорив степи Южной России, 6 декабря 1240 г. захватили Киев и готовились к вторжению на Запад. Сообщение о татарском нашествии особых эмоций на Западе не вызвало. Только Фридрих II приказал своему сыну приостановить военную кампанию, которую тот вел в Италии против гвельфов, и отправиться в Пруссию, чтобы присоединиться к тевтонцам. Великий магистр Поппон фон Остерна подготовил крепости ордена к обороне и направился с группой рыцарей в Силезию, дабы присоединиться к герцогу Генриху Благочестивомуи князю польскому Болеславу. Битва между христианской коалицией и татарами произошла 9 апреля 1241 г. возле небольшого городка в Силезии (Легница). Христианские рыцари потерпели поражение, а Поппон фон Остерна был тяжело ранен в бою. Однако и татары понесли большие потери, что не позволило им развернуть наступление на запад, и отступили на русские земли, по пути совершив опустошительный набег на Венгрию. Из всего христианского мира только Фридрих II, вечно отлученный от Церкви и единственный правитель, осмелившийся поднять голос перед новой угрозой, нависшей над христианской Европой, тщетно призывал правителей Запада выступить против захватчиков.
Татарское нашествие отозвалось и в Пруссии, где, воспользовавшись уходом рыцарей, местное население восстало при поддержке князя восточной Померании (Померелии) Святополка. Множество крепостей ордена попало в руки пруссов, которые их разрушили, перед этим истребив всех защитников; только Торн, Эльбинг, Реден и Кульм еще оставались в руках тевтонцев. Множество имений было разграблено, их германские владельцы погибли в тяжких муках, тогда как местное население возвратилось к своим прежним языческим верованиям. Папа, как водится, призвал к крестовому походу против Померелии. Магистр ордена Дитрих фон Бернхейм во главе тевтонских рыцарей вместе с польскими князьями захватил померанскую крепость Сартовитзи (Зартавитза), затем крепость Накела. Святополк предпочел пойти на переговоры и запросил мира в 1242 г.: он обязался оставаться верным ордену и уступил крепость Сартовитзи. Эта передышка позволила тевтонцам вновь овладеть Пруссией «огнем и мечем». Два года спустя Святополк возобновил войну и при поддержке пруссов вторгся во владения ордена в Пруссии. Победы и поражения следовали одна за другой в течение почти четырех лет. В очередной раз в Германии призвали к крестовому походу, что вынудило Святополка предложить мир при посредничестве папского легата Жака де Кур-Палье — будущего папы Урбана IV. Князь Померелии торжественно поклялся 24 ноября 1248 г. отказаться от любого союза «с прусскими идолопоклонниками».