Много времени уходило у Ксенофонтова на дежурства. Секретари ВЧК обязаны были постоянно находиться в ВЧК, в том числе и в ночное время. Ведь в ВЧК, помещавшуюся на Гороховой, 2, в здании бывшего градоначальства, непрерывно шли посетители. Они рассказывали о собраниях контрреволюционеров, готовящихся террористических актах, о фактах спекуляции золотом и платиной, распространении контрреволюционной литературы. Много сообщений поступало по телефону — как днем, так и ночью.

18 декабря Дзержинский и Ксенофонтов узнали о том, что контрреволюционный „Союз защиты Учредительного собрания“ созывает в здании Вольно-Экономического общества конференцию, в которой предполагается участие кадетов, эсеров, меньшевиков, представителей разных „демократических“ организаций. Враги Советской власти намеревались обсудить меры по скорейшему открытию Учредительного собрания, возможно, даже явочным порядком, без разрешения правительства.

Феликс Эдмундович немедленно вызвал комиссара ВЧК И.В. Успенского и выписал ордер на производство ареста и обыска тех, кто окажется в помещении общества. Ордер вместе с Дзержинским подписал Ксенофонтов. В тот же вечер чекисты арестовали всех явившихся на конференцию.

В декабре 1917 года было заключено соглашение между большевиками и левыми эсерами о вхождении последних в Совнарком. Войдя в правительство, левые эсеры потребовали включения своих представителей во Всероссийскую чрезвычайную комиссию, причем без утверждения предложенных кандидатур Советом Народных Комиссаров. Ф.Э. Дзержинский выступил решительно против такого порядка пополнения ВЧК. 8 января 1918 года Совнарком принял решение ввести в состав ВЧК левых эсеров, членов ВЦИК, но с обязательным утверждением кандидатов в Совете Народных Комиссаров. Левый эсер В. А. Александрович стал первым заместителем председателя ВЧК.

К весне 1918 года в ВЧК уже работало около 120 сотрудников. Две трети из них составляли большевики, остальные — левые эсеры. Кроме того, было несколько анархистов. В связи с увеличением аппарата ВЧК Ксенофонтов почти целиком сосредоточил свое внимание на организационной работе.

В марте 1918 года ВЧК вместе с Советским правительством переехала в Москву. Вначале она разместилась в доме на Поварской улице, а в апреле в ее распоряжение передали здание на Большой Лубянке, 11, где ранее находилось страховое общество „Якорь“.

В Москве Ксенофонтову с женой и сыном выделили небольшую комнату на втором этаже 1-го Дома Советов (гостиница „Националы)). Из окна открывался вид на Тверскую. По улице с лязганьем двигались трамваи, проносились редкие автомобили, мчались извозчики, непрерывным потоком шли люди. Отсюда было рукой подать и до Лубянки, и до Центрального Комитета партии на Воздвиженке, и до Кремля. На службу Иван Ксенофонтович выходил рано утром, а домой возвращался далеко за полночь.

Обстановка внутри ВЧК после переезда в Москву сильно осложнилась. Дружной, слаженной работы с левыми эсерами не получалось. Удавалось добиться единогласного решения только при рассмотрении дел о бандитах и спекулянтах. Но как только на заседании коллегии речь заходила о строгом наказании политических преступников, вставших на путь вооруженной борьбы против Советской власти, левые эсеры срывали принятие постановлений, ссылались на запрещающие директивы своего ЦК. Разногласия приняли особенно острый характер после ареста участников савинковского "Союза защиты родины и свободы". Дзержинский, Ксенофонтов, Петере, Лацис убеждали левых эсеров в необходимости расстрела наиболее активных членов этой крупнейшей военно-заговорщической организации, но все было тщетно. Александрович и его товарищи применяли право вето, мешали развертыванию борьбы с контрреволюцией.

В июне 1918 года была созвана 1-я Всероссийская конференция ЧК. Ее председателем избрали Ф.Э. Дзержинского, однако он не смог присутствовать на заседаниях. Феликс Эдмундович в эти дни вел расследование по делу эсеров и меньшевиков — организаторов антисоветских сборищ, так называемых "собраний уполномоченных фабрик и заводов Москвы". Конференцией фактически руководили И.Н. Полукаров, И.К. Ксенофонтов, Д.Г. Евсеев.

В клубе ВЧК, где проходили заседания конференции, с утра и до позднего вечера не утихали споры. Не было ни одного вопроса, по которому не возникало бы резких разногласий с левыми эсерами. Их было меньшинство, но они использовали любой повод для нападок на большевиков. Особенно бурная дискуссия развернулась о принципах организации ЧК. Ксенофонтов и другие большевики говорили, что ВЧК должна быть строго централизованным учреждением, объединяющим ЧК всей страны. Вместе с тем они считали нужным сохранить подчинение ЧК местной власти, которая должна координировать работу всех органов, боровшихся с контрреволюцией на территории губернии. Левые эсеры категорически выступали против централизации чрезвычайных комиссий, поскольку она якобы противоречит демократии, «самодеятельности масс». Они заявляли, что ЧК должны подчиняться только местным Советам. Однако конференция отвергла полуанархистские предложения левых эсеров и утвердила принцип двойного подчинения чрезвычайных комиссий.

И.К. Ксенофонтов активно участвовал и в обсуждении проблемы создания контрольных коллегий при ЧК. В состав контрольно-ревизионного органа, считал он, следует включать члена коллегии ЧК и двух представителей партийного комитета. Цель такого органа — следить за тем, как сотрудники выполняют постановления чрезвычайной комиссии, не нарушают ли они прав граждан. Саму же комиссию могут контролировать другие учреждения, имеющие на то право, — исполкомы Советов, партийные комитеты.

Делегаты поддержали предложение Ксенофонтова. Оно вошло в принятое конференцией Положение о чрезвычайных комиссиях на местах.

Вскоре при всех губернских и уездных ЧК стали создаваться контрольно-ревизионные коллегии с участием представителей губернских и уездных комитетов партии. Они проверяли постановку следствия в чрезвычайных комиссиях, накладывали вето на те приговоры ЧК, которые были недостаточно обоснованы, принимали жалобы от населения. Эти коллегии являлись одним из эффективных средств партийного контроля за работой сотрудников ЧК.

Летом 1918 года классовая борьба в Советской России достигла небывалой остроты. С востока и запада, с севера и юга наступали интервенты, белогвардейские войска и армии возникших на окраинах эсеро-меныпевистских правительств. Республика оказалась в огненном кольце фронтов. В глубоком подполье действовали заговорщические контрреволюционные организации — «Национальный центр», «Союз возрождения России», филиалы савинковского «Союза защиты родины и свободы». В ряде городов им удалось поднять мятежи. По всей республике полыхало пламя кулацких восстаний. Начался белый террор.

6 июля 1918 года левые эсеры убили немецкого посла Мирбаха. Они рассчитывали таким путем сорвать Брестский мир, спровоцировать войну с Германией. Убийцы — сотрудник ВЧК Блюмкин, незадолго до того отстраненный Ф.Э. Дзержинским от должности, и фотограф Андреев — проникли в помещение посольства по мандату, на котором были поддельные подписи Дзержинского и Ксенофонтова и подлинная печать ВЧК. Ее поставил Александрович. Совершив террористический акт, Блюмкин и Андреев скрылись в особняке в Трехсвятительском переулке, где находился основной боевой отряд ВЧК, которым командовал левый эсер Попов. Там же разместился штаб мятежников.

Ф.Э. Дзержинский, как только получил сведения об убийстве Мирбаха, немедленно поехал в германское посольство. Ему рассказали о случившемся, передали брошенный террористами портфель и забытое ими подложное удостоверение. После этого Феликс Эдмундович направился в отряд ВЧК в Трехсвятительском переулке, где, как он предполагал, могли укрыться Блюмкин и Андреев. Дзержинский хотел выяснить, является ли убийство посла личным делом преступников или же заговором партии левых эсеров. Мятежники арестовали Феликса Эдмундовича.