Вырвавшись на свободу, знаменитый бандит на некоторое время затаился. В отличие от него, трое его бывших соратников так и остались в тюрьме Колламбус в Огайо, и впереди их ждала незавидная судьба. Пэрпонта казнили на электрическом стуле. Макли не стал дожидаться и во время одной из прогулок бросился под полицейские пули. Лишь только Рассел Кларк был приговорен к пожизненному заключению.
Свою новую банду Диллинджер сформировал довольно быстро. Она вновь состояла из четырех человек. Кроме самого Джона, в ней оказались Хаммерман Ван-Миттер, Рэд Хамильтон и Лестер Джиллес. Последний был самой колоритной личностью в новой банде. Прозванный за свой внешний вид (его рост составлял всего лишь 158 см) "Малышом Нельсоном", этот 26-летний человек комплексовал и поэтому взял себе псевдоним Большой Джордж Нельсон. В банде он был самым кровожадным, и убийства безвинных людей были самыми любимыми его развлечениями. Иногда он входил в такой раж, что Диллинджеру стоило огромного труда сдерживать его, он даже порой ловил себя на мысли, что опасается этого маньяка.
Пятым в банде должен был стать уже известный нам Гарри Янгблад, но ему не повезло. 17 марта 1934 года его выследила полиция в Форт-Гуроне и во время ожесточенной перестрелки он был убит наповал точным выстрелом в голову.
Свой первый налет в новом составе банда совершила в Сиу-Фолсе в Южной Дакоте. Причем Малыш Нельсон хладнокровно застрелил полицейского. После этого преступники напали на банк в Мэйсон-Сити в штате Айова и захватили 34 тысячи долларов. Затем они отправились в Монката, штат Миннесота, но там их ждала полицейская засада. Распознав ее буквально в последнюю минуту, преступники успели повернуть автомобили назад и благополучно вырвались из едва не захлопнувшегося капкана. После этого Диллинджер решил взять "тайм-аут" и отсидеться в каком-нибудь тихом местечке. Вместе со своей любовницей танцовщицей Билли Фуршет он отправился в Сент-Пол и снял там скромную квартирку. Но их размеренная и спокойная жизнь длилась недолго.
Соседи из дома напротив, люди весьма любознательные, регулярно читали газеты. А в них довольно часто писали о неуловимом бандите Джоне Диллинджере и даже публиковали его фотографии. И вот однажды, сличив эти изображения с тем, кого они каждый день видели возле своего дома, соседи догадались, кого занесла нелегкая в их края. Звонок в полицию не заставил себя долго ждать. Случилось это днем 30 марта.
И вновь, как и много раз, у полиции была реальная возможность застать Диллинджера врасплох. На стороне полиции была и внезапность, и численное превосходство, и лучшее вооружение. Но не было главного - удачи. Той самой, которая постоянно сопуствовала Джону Диллинджеру. Вот и в тот раз она ему не изменила. Получив лишь легкое ранение в ногу, Диллинджер и его любовница сумели выскочить из осажденного дома и, стреляя на ходу, скрылись на автомобиле во мраке апрельской ночи.
Когда американские газеты вышли в свет с описанием этого побега, восторгу читателей не было предела. Популярность Джона Диллинджера в те дни была в зените. Как выяснилось позднее, сам директор ФБР Эдгар Гувер держал на домашнем столе его фотографию, видимо, в душе восхищаясь дерзостью и удачливостью этого бандита. А тот между тем продолжал водить за нос своих преследователей.
Прекрасно понимая, что теперь его будут ждать засады во всех крупных городах, он совершает немыслимый маневр. 5 апреля 1934 года он направляет свой автомобиль в Индиану, в родной для себя город Муррисвилл. Там он навещает отца, просит у него прощения за все свои грехи и просит благословения на свадьбу с Эмили Фуршет. Отец прощает своего заблудшего сына и благословляет его на семейную жизнь. Позднее он заявит журналистам: "Мы не готовились к встрече с Джоном. Мы просто собрались за воскресным обедом, когда он внезапно появился. После этой встречи мне кажется, что если Джона освободят условно или простят за то, что он сделал, а он сделал не так много, как говорят об этом люди, то он может исправиться. Надо дать ему шанс".
Однако подобного шанса Диллинджеру никто давать не собирался.
Совместная жизнь Диллинджера и Фуршет продлилась недолго: 9 апреля девушку арестовали и отдали под суд за укрывательство преступника. Диллинджера это взбесило, и 15 апреля вместе с Ван-Миттером они прибыли в городок Варшава в штате Индиана. Им нужно оружие, а не деньги - они напали на один из местных полицейских участков. В тот час там находился полицейский по фамилии Петинджер. Он сидел за столом и что-то писал, когда внезапно в помещение ввалились двое вооруженных людей. Это были Диллинджер и Ван-Миттер. Разоружив полицейского, Диллинджер забрал у него ключи от оружейной комнаты и удалился. Ван-Миттер остался на месте, держа Петинджера на мушке. Самое интересное, что все это из дома напротив видел пожарный, однако телефона у него под рукой не оказалось, а покидать свой пост он не имел права. Вот и пришлось ему быть безучастным наблюдателем. А события едва не завершились трагически.
Петинджер, воспользовавшись удобным моментом, внезапно набросился на Ван-Миттера и попытался выбить у него из рук револьвер. Однако бандит оказался проворнее и встретил полицейского мощным ударом кулака в лицо. Петинджер рухнул, и Ван-Миттер, не давая ему опомниться, довершил дело ударом рукоятки пистолета по голове.
После этого успешного налета Диллинджер принимает решение взять кратковременный отпуск и отправляется в санаторий на берегу озера Мичиган, в Литл-Стар возле Мерсера (Северный Висконсин). Вместе с ним отправляются Ван-Миттер, Хэмильтон, Нельсон, Томми Кэролл и три молодые девицы. Все они преисполнены желания весело провести время и полагают, что это им удастся. Однако даже здесь, в мертвый курортный сезон, вдали от густонаселенных центров им не удается спрятаться от чужих глаз. Владелец санатория Эмиль Вананка сразу догадался о том, кто прибыл в его владения, и 22 апреля 1934 года дал знать об этом в полицию. В тот же день ночью к санаторию подъехали четыре автомобиля с полицейскими и агентами ФБР, которых возглавлял сам шеф чикагского отделения ФБР Мелвин Первис.