К этому времени испортились отношения Иоанна с Иосией, которого сместили с поста казначея Саровской пустыни. Обиженный Иосия удалился в келью недалеко от монастыря, начал переманивать монахов, призывая создать другой монастырь в противовес Саровскому, а Иоанна сместить. Подоспевшее назначение в Берлюковскую пустынь предотвратило открытое столкновение двух священнослужителей, но, уезжая, Иосия грозил, что он добьется смены настоятеля. Вот уж действительно: «О времена! О нравы!»

Оставшиеся в Саровской пустыни испугались не столько угроз Иосии, сколько назначения настоятеля со стороны. Они поспешили избрать вместо Иоанна нового руководителя, Дорофея. Не исключаю, что в принятии такого решения участвовал и сам Иоанн. Прошение о назначении было послано в Москву в октябре 1731 года, но указ об этом вышел лишь в январе 1733-го. По этому указу Дорофея следовало именовать строителем пустыни, а Иоанна — первоначальником. Интересно, что с этим официальным титулом Иоанн в списке монашествующих Саровской пустыни (табели) 1733 года шел первым — перед строителем, в знак признания заслуг и, наверное, в знак того, что, несмотря на назначение Дорофея, первым лицом в монастыре все же оставался Иоанн.

Узнав о показаниях Зворыкина, Иосия решил, что лучшая оборона — это нападение, и сам настрочил донос. Принял он это решение не без колебаний, о чем свидетельствуют его обращения за советом к своим покровителям. Князь И. Одоевский не советовал давать делу ход, а А. В. Макарова не оказалось дома. И все-таки Иосия решился на донос. Он пересказал, что поведал ему Зворыкин на исповеди, и сообщил, что бумаги хранятся в Саровской пустыни (думается, он прекрасно понимал, что тем самым он «подставляет» Иоанна).

В Саровскую пустынь нагрянул отряд солдат для изъятия документов. В указанном Иосией месте были найдены бумаги (писанные углем и кровью), в которых Зворыкин письменно отрекался от Бога, его же покаяния, разрешительное письмо Иосии, отпускавшее Зворыкину его грехи. Среди этих бумаг попалось и запрещенное вышеупомянутое сочинение Родышевского «Возражение на объявление о монашестве», переписанное в тетрадях от руки. Эти тетради придали делу саровских монахов политический поворот. Служащим Синодальной конторы дело показалось достаточно серьезным, о нем было сообщено в московскую контору Тайной канцелярии. Та приказала арестовать Зворыкина, а также всех упомянутых им монахов, в том числе Иоанна и Иосию. В записях монахов сохранился рассказ о том, как арестовывали Иоанна.

«За первоначальником послали чиновника с двумя инвалидами; приехали в пустынь; первоначальника не было в обители: отлучился по нуждам монастырским до города Темникова. Чиновник взял монаха, чтобы отыскать вскорости. Поехали к Темникову, не доехали до города 12 верст; первоначальник навстречу ехал, на одной лошади, с послушником; взяли его, обнаживши сабли, чтобы везти в Москву; но первоначальник упрашивал их со слезами заехать в монастырь проститься с назначенным в строители и с братиею и едва мог убедить оных. Приехавши в обитель, не допустили его до нареченного строителя и братии сажен 10; сделал он со слезами как настоятелю, так и братии троекратное поклонение до земли, такожде и братия сделала поклонение; и, не допустивши его и до кельи, в чем застали, в том и увезли в Москву».

Больше Саровскую пустынь увидеть ему уже было не суждено.

Историки допускают, что сам Иоанн отрицательно относился к некоторым политическим, в частности к церковным, реформам Петра. Тетради с сочинениями Родышевского Иоанн приобрел в 17 30 году в Москве у книготорговцев Щелягиных (также арестованных по этому делу), монах Аарон доставил их в Саров (и пострадал за это), а затем их переписали. Переписчиков тоже всех арестовали.

4 апреля 1734 года всех арестованных по этому делу отправили в Петербург. Разбирательством лично занялся Феофан Прокопович.

Чтобы придать следствию более ясную направленность, Феофан написал разбор сочинений Родышевского о монашестве и подал его императрице. Феофан писал: «…письмо сие не что ино есть, только готовый и нарочитый факел к зажжению смуты, мятежа и бунта».

По мнению Н. И. Павленко, Прокопович сознательно дал следствию над монахами политическую окраску. Он и некоторые другие влиятельные лица в государстве стремились свести счеты с находившимся в опале после смерти Петра I А. В. Макаровым. И хотя никаких конкретных улик против него, кроме того, что духовником его семьи был Иосия, так и не нашли, ход следствия дал повод держать Макарова под домашним арестом до самой его смерти в 1740 году.

Тайная канцелярия, ведя дознание, обратилась в Синод с просьбой срочно направить в Саровскую пустынь какое-нибудь духовное лицо, чтобы допросить братию и обыскать монастырь: не найдется ли еще чего-нибудь подозрительного? В Саров был направлен игумен Успенского Колоцкого монастыря (что под Можайском) Пахомий. Им было конфисковано в монастырской библиотеке и архиве большое количество книг и рукописей, которые он привез в Московскую синодальную канцелярию. Документы, показавшиеся канцелярии подозрительными, она переслала в Петербург, Синод же, ознакомившись с книгами и бумагами, потребовал, чтобы ему прислали все без исключения. Всё это указывает на важное значение, которое придали делу саровских и берлюковских монахов в российских верхах. В допросах саровских колодников принимали участие даже министры.

По мнению Феофана Прокоповича, главным в заговоре был Иосия. Решено было его, а также еще двух монахов расстричь и продолжить разбирательство с ними уже как с мирянами.

«Сего 12 июня его преосвященство и высокосиятельные гг. министры, по секретному важному делу, которое следуется ими в Тайной канцелярии, о Саровском строителе Иоанне и берлюковском Иосии, о монахе Георгие Зварыкине, иеромонахе Иакове и монахе Сильвестре, разсуждали, что из тех плутов чернцов оные берлюковской пустыни строитель Иосия, яко первый, предводитель оному зело важному злоковарному делу, и иеромонах Иаков и монах Сильвестр — явились в жестокой важности, о которой значится в оном деле (а о прочих их винах по ответам их известно и св. Синоду, понеже допрашиваны оные плуты при св. Синоде), и по общем разсуждении предложили, чтоб сняв с них Иосии, Иакова и Сильвестра священнические и монашеские чины, отдать их к следованию оной злодейской важности в светский суд».

Основные участники следствия — Зворыкин и Иосия — продолжали обвинять друг друга во всех грехах. Зворыкин договорился до того, что он сам надел на себя монашескую одежду и, выдав себя за монаха, явился таким образом во Флорищеву пустынь. Об Иосии же он сообщал, что тот допускал высказывания против государыни Анны Иоанновны, высказывал недовольство иноземцами, хозяйничавшими при ее дворе, а законной наследницей считал Елизавету Петровну.

Иосия, чувствуя, что над его головой сгущаются тучи, подал в свою очередь пространную записку, озаглавленную «Объявление о великом злоумышлении». Суть этого «объявления» сводилась к тому, что Зворыкин выставлялся в нем членом некого тайного общества, задачей которого были государственный переворот, возведение на трон Елизаветы Петровны и соединение православной церкви с латинской и лютеранской.

Для выяснения истины решено было прибегнуть к пыткам. Начали с Иосии; он был пытан во время следствия как минимум дважды, но своих показаний не изменил. Пытали и Зворыкина. Феофан Прокопович, по-прежнему уделявший следствию большое внимание, не успевал уследить за всеми многочисленными допросами и обратился к Анне Иоанновне, чтобы та повелела выдать ему в помощь двух архимандритов — Чудова и Ипатьевского монастырей. По приказу Феофана всех арестантов перевезли на время в Ораниенбаум, где он отдыхал на загородной даче, чтобы ему лично быть в курсе следствия. В это время арестованных, по-видимому, держали на корабле, стоявшем на якоре в заливе.

Материалы следствия содержат порой очень интересные сведения о жизни в Саровском монастыре и его монахах. Вот, например, что говорил на допросе иеромонах Ефрем о первоначальнике Иоанне: «Означенный строитель Иван, мнится мне, состояния не коварного, только начальства над монастырем крепко держался, и того желателен, чтоб ему в его делах, что ему захочется, делать, хотя бы не на потребу обители; а чтоб его любили, того желателен; в вещах, как то в книгах и в других, которые при себе имеет, в тех братии не податлив; нрав имеет, мнится мне, тяжелый».