Совнарком, узнав об аресте Дзержинского, поручил члену коллегии М.И. Лацису временно осуществлять руководство комиссией. Однако вечером левые эсеры захватили здание, где размещалась ВЧК, арестовали Лациса и увезли его в свой штаб. Вскоре мятежники овладели московским телеграфом, разослали повсюду телеграммы с сообщением о восстании против большевиков.

После ареста Лациса Совнарком поставил во главе ВЧК на время задержания Дзержинского Я.X. Петерса. Яков Христофорович первым делом решил очистить здание ВЧК от левых эсеров. Но как это сделать, чтобы избежать ненужных жертв? Решил прибегнуть к хитрости. Он снял телефонную трубку и позвонил дежурившему секретарю ВЧК. Им оказался большевик Левитан. Петерс приказал ему передать командиру левоэсеровского отряда, захватившего ВЧК, «телефонограмму» штаба мятежников с предписанием немедленно выехать в Сокольники для «разоружения контрреволюционеров». Хитрость удалась. Большая часть левых эсеров покинула Лубянку, 11.

Один из отрядов ВЧК во главе с А. Поляковым без труда разоружил оставшихся в помещении мятежников.

Ночь с 6 на 7 июля Ксенофонтов провел в ВЧК. Вместе с Петерсом он произвел аресты сотрудников Чрезвычайной комиссии из числа левых эсеров, опечатал их бумаги, привел в боевую готовность верные правительству отряды ВЧК.

7 июля части Красной Армии и отряды ВЧК разгромили мятежников. Позорная авантюра левых эсеров провалилась. Дзержинский, Лацис и другие советские работники, арестованные мятежниками, были освобождены. Главари мятежа разбежались. Александровича и еще нескольких левых эсеров, организаторов восстания, задержали на Курском вокзале и по постановлению ВЧК расстреляли. Дзержинский подал заявление об освобождении его с поста председателя ВЧК, так как он должен был выступать свидетелем по делу об убийстве Мирбаха. Совнарком удовлетворил его просьбу и поручил Петерсу сформировать коллегию ВЧК из одних большевиков. В новый состав коллегии одному из первых было предложено войти И.К. Ксенофонтову.

В конце августа председателем ВЧК снова стал Ф.Э. Дзержинский, а Я.X. Петерса назначили его заместителем. Ввиду частых отъездов Феликса Эдмундовича по заданиям ЦК РКП (б) Петерс до начала 1919 года осуществлял фактическое руководство Чрезвычайной комиссией. И.К. Ксенофонтов продолжал выполнять работу секретаря ВЧК. На всех приказах ВЧК его подпись была обязательной. Вместе с Я.X. Петерсом и заведующим Иногородним отделом В.В. Фоминым Иван Ксенофонтович направлял директивы местным чрезвычайным комиссиям о необходимости бдительно следить за действиями белогвардейцев, эсеров, меньшевиков, левых эсеров, анархистов, подавлять попытки контрреволюционных мятежей.

30 августа эсерами был убит председатель Петроградской ЧК М.С. Урицкий. В тот же день эсерка Каплан совершила злодейское покушение на жизнь В.И. Ленина, тяжело ранила его. В ответ на это Совнарком принял постановление о красном терроре как временной чрезвычайной мере защиты революции. Его проведение возлагалось на ВЧК.

Выполняя постановление Совнаркома, ВЧК и местные чрезвычайные комиссии арестовали многих участников контрреволюционных организаций, восстаний, мятежей, а также деятелей царского режима, виновных в кровавых репрессиях против народа.

Беспощадно подавляя сопротивление врагов, ВЧК осуществляла строгий контроль за тем, чтобы чекисты не нарушали законных прав и интересов граждан. Осенью 1918 года в губернские и уездные чрезвычайные комиссии были разосланы приказы и инструкции, подписанные Я.X. Петерсом и И.К. Ксенофонтовым, которые требовали «при малейшем злоупотреблении привлекать виновных к строгой ответственности».

В конце 1918 года в связи с победами Красной Армии на Восточном фронте, аннулированием Брестского мира и поворотом среднего крестьянства в сторону Советской власти упрочилось политическое положение в республике. Казалось, что самый трудный момент гражданской войны позади. Некоторые партийные и советские работники стали ставить вопрос о необходимости распустить ВЧК и местные чрезвычайные комиссии или по крайней мере лишить их права на применение крайних мер к противникам пролетарского государства. В печати, на заседаниях Советов, на партийных собраниях развернулась жаркая дискуссия о ЧК. Партийные комитеты, воспользовавшись улучшением обстановки в стране, начали отзывать коммунистов из чрезвычайных комиссий, переводить их на советскую работу или направлять в освобожденные от неприятеля районы.

И.К. Ксенофонтов вместе с Ф.Э. Дзержинским и Я.X. Петерсом выступал за сохранение чрезвычайных комиссий как органов борьбы с контрреволюцией. Он полагал, что пока гражданская война продолжается, Советской власти без ЧК не обойтись.

4 февраля 1919 года ЦК РКП (б) принял решение о том, что право вынесения приговоров должно быть передано из ЧК в ревтрибуналы. Вместе с тем ЦК указал, что чрезвычайные комиссии должны остаться как органы розыска и как органы непосредственной борьбы с вооруженными бандитскими и контрреволюционными выступлениями. За ними также сохранялось право на внесудебную репрессию, но лишь в местностях, объявленных на военном положении. Решение ЦК было положено в основу постановления ВЦИК от 17 февраля о реорганизации ЧК и ревтрибуналов.

Весна 1919 года принесла большие перемены в жизни Ивана Ксенофонтовича. На одном из заседаний коллегии ВЧК Дзержинский сообщил, что Петерс направляется на ответственную работу в Московский ревтрибунал, а заместителем председателя комиссии назначается Ксенофонтов.

— Иван Ксенофонтович, — сказал Феликс Эдмундович, — работает в ВЧК с момента ее основания. Все мы знаем его как человека принципиального, преданного революции, выдержанного, спокойного. Я советовался по этому вопросу в Центральном Комитете партии. ЦК поддерживает кандидатуру товарища Ксенофонтова.

В марте Иван Ксенофонтович приступил к исполнению своих новых обязанностей.

Назначение Ксенофонтова на должность заместителя председателя ВЧК произошло в условиях нового обострения военной и политической обстановки в стране. В начале марта начался поход Колчака, в апреле — мае осложнилось положение в Прибалтике, Белоруссии, под 1 Петроградом. Летом развернул наступление на Южном фронте Деникин. В тылу республики усилили шпионско-подрывную деятельность «Национальный центр», «Союз возрождения России», организация английского резидента Поля Дюкса. Эсеры, меньшевики, левые эсеры организовывали крестьянские восстания в Поволжье, в Курской, Воронежской, Рязанской, Саратовской и других губерниях. Под влиянием агитации антисоветских партий вспыхнули мятежи красноармейцев в Брянске, Гомеле; произошли забастовки рабочих на Путиловском заводе, на оборонных предприятиях Тулы. Контрреволюционеры перешли к диверсиям. На Украине поднял крупный мятеж атаман Григорьев. Эсеры и меньшевики открыто требовали передать власть Учредительному собранию. Они фарисейски обвиняли большевиков в развязывании гражданской войны, предлагали вернуться к «здоровому капитализму», распространяли антисоветские листовки.

Необходимо было принять решительные меры против поднявшей голову контрреволюции. На заседании коллегии ВЧК 12 марта Дзержинский, Петере, Ксенофонтов, Лацис, Аванесов, Валобуев, Мороз, Павлуновский взволнованно говорили об усилении подрывной работы врагов Советской власти. Феликс Эдмундович заявил, что ввиду сложившейся обстановки в районах, охваченных восстаниями, надо восстановить судебные права ЧК. Ксенофонтов поддержал Дзержинского. Нужно подумать, говорил Иван Ксенофонтович, и об усилении чрезвычайных комиссий коммунистами. ЧК ослаблена отзывами работников. Надо обратиться в ЦК с просьбой дать распоряжение губкомам партии возвратить в ЧК отозванных коммунистов и прислать новых людей.

14 марта ЦК РКП (б) по докладу Дзержинского «О серьезности переживаемого момента» принял решение объявить местности, где происходят контрреволюционные восстания, на военном положении и восстановить там судебные права ЧК. На следующий день Центральный Комитет партии направил губкомам партии письмо, в котором обязал их вернуть в чрезвычайные комиссии лучших работников, отозванных ранее оттуда.