Эта операция ОГПУ нанесла тяжелый удар по РОВС. Депрессия, панические настроения, недоверие к руководителям, взаимные подозрения в сотрудничестве с органами госбезопасности СССР были характерны не только для членов Русского общевоинского союза, но и для поддерживавшей его части белой эмиграции на протяжении ряда лет после исчезновения Кутепова.
Преемником Кутепова на посту председателя РОВС стал генерал-лейтенант Евгений Карлович Миллер, кадровый военный, окончивший в 1892 году Академию Генерального штаба. С 1898 по 1907 год он находился на военно-дипломатической работе в Бельгии, Голландии и Италии. В период Первой мировой войны был начальником штаба 5-й армии. В августе 1917 года представлял Русскую Ставку при итальянской Главной квартире. В 1918 году после высадки английских войск в Архангельске был главкомом белых войск на Севере, в 1920 году возглавил Северное правительство. После эвакуации английских войск из Архангельска уехал в Финляндию, откуда перебрался в Париж, где сначала состоял при штабе Врангеля, а затем находился в распоряжении великого князя Николая Николаевича.
В 1929 году стал заместителем председателя РОВС. Вступив в должность председателя РОВС, Миллер назначил своим первым заместителем генерала Ф.Ф. Абрамова, вторым — вице-адмирала М.А. Кедрова. Были новые назначения и среди начальников отделов и отделений: всю информационную работу Миллер поручил Трубецкому, начальником канцелярии назначил генерал-лейтенанта Н.Н.Стогова, а его помощником — генерала П.А. Кусонского.
Ранее, будучи заместителем Кутепова, Миллер не был допущен к боевой работе РОВС и не был информирован об этой стороне секретной деятельности организации. Поэтому свою деятельность он начал с инспекционных поездок в Югославию, Чехословакию, Болгарию, чтобы на местах разобраться с практической деятельностью РОВС и оживить разведывательную работу. Это обусловливалось и тем, что многие генералы и старшие офицеры РОВС считали Миллера кабинетным работником, не способным к решительной борьбе с советской властью. Однако по мере вхождения в дела РОВС Миллер, назвав мелкими булавочными уколами различного рода «бессистемные покушения, нападения на советские учреждения и поджоги складов», поставил перед РОВС стратегическую задачу — организовать подготовку крупных выступлений против СССР. Не отрицая важность проведения террористических актов, Миллер обращал особое внимание на подготовку кадров для развертывания партизанской войны в тылу Красной армии в случае войны с СССР, а также кадров для полицейской и административной службы «во временного оккупированных русских областях». В предвидении открытых военных действий против СССР со стороны Запада он создал под руководством генерала Н.Н. Головина в Париже и Белграде курсы по переподготовке офицеров РОВС и обучению военно-диверсионному делу новых членов РОВС из числа эмигрантской молодежи.
Однако планы и практические шаги по их реализации генерала Миллера и его сподвижников своевременно становились достоянием советской разведки. Благодаря полученным через агентуру данным в 1931–1934 годах удалось захватить и обезвредить семнадцать террористов РОВС, заброшенных в СССР, и вскрыть одиннадцать явочных пунктов. Большой вклад в эту работу внесли агент-нелегал Леонид Леонидович Линницкий, сотрудники парижской и берлинской резидентур ИНО ОГПУ. Советским разведчикам удалось предотвратить готовившиеся РОВС террористические акты против наркома иностранных дел СССР Литвинова в Европе и его заместителя Карахана в Иране.
В начале тридцатых годов советская разведка установила технику слухового контроля в штаб-квартире РОВС в Париже, которая с мая 1930 года располагалась на первом этаже дома № 29 на рю дс Колизс. Дом принадлежал семье агента парижской резидентуры Сергея Третьякова. В 1929 году Третьяков был привлечен к сотрудничеству с советской разведкой и до последних дней своей жизни служил своей новой Родине. Первоначально от Третьякова поступала информация но подрывной деятельности «Торгнрома» и других эмигрантских организаций. В 1933 году перед ним была поставлена задача по разработке РОВС и его первого отдела. По предложению заместителя ИНО ОГПУ Шнигелыласа, Третьяков вернулся жить в принадлежавший семье дом и занял второй этаж — как раз над помещениями первого этажа, арендованными штаб-квартирой РОВС. На третьем этаже проживала семья Третьякова. Это позволило парижской резидентуре установить микрофоны подслушивания в кабинетах Миллера, начальника 1-го отдела Шатилова и канцелярии РОВС. Аппаратура приема информации была размещена в квартире Третьякова. С 12 января 1934 года заработал технический канал получения информации, обернувшийся для Третьякова годами тяжелейшей работы. Почти ежедневно, пока генералы Миллер, Шатилов и Кусонский находились на работе, он, надев наушники, вел записи разговоров, происходивших в их кабинетах. Поступавшая от Третьякова информация, носившая первоначально кодовое название «Петька», а затем — «Информация наших дней» (ИНД), позволила разведке и контрразведке ОГПУ, а затем НКВД, более полно контролировать и пресекать подрывную деятельность РОВС против СССР, выявлять каналы заброски террористов и их имена, факт сотрудничества Миллера с французскими и японскими спецслужбами, установления тесного контакта РОВС с НТСНП, встреч Миллера с Байдалаковым и Поремским и другими лидерами НТСНП, на которых обсуждались конкретные вопросы взаимодействия этих двух антисоветских организаций в борьбе против СССР. Благодаря информации Третьякова стало известно, что представитель РОВС в Румынии полковник Жолондовский, отвечавший за заброску террористов, скрывал от руководства РОВС провалы до тех пор, пока данные об аресте террористов и их фамилии не появились в советской печати. Интересна в этом отношении информация Третьякова о провале румынского канала Жолондовского, изложенная в спецсообщении ИНО руководству НКВД СССР: «ИНО Главного управления государственной безопасности получены сведения, что руководитель террористической работой РОВС в Румынии полковник Жолондовский заявляет, что НКВД… совершенно разгромил всю английскую разведку, ведущуюся из Румынии, и всю румынскую линию Жолондовского. По словам Жолондовского, нарушены все организации всех разведок. На Жолондовского произвело впечатление опубликование в советской печати настоящих фамилий двух расстрелянных террористов в Харькове… Жолондовский заявляет, что сейчас со стороны Румынии невозможна работа террористического характера, но в то же время он считает необходимым, чтобы РОВС снова провел террористический акт по какой-либо другой линии против тов. Жданова или тов. Постышева. Генерал Абрамов и капитан Фосс считают, что сейчас румынской линии не существует и что Жолондовский всех обманывал. Он тратил получаемые от РОВС пять тысяч франков на свои личные нужды, ведя неприличный образ жизни, и на взятки Мурузову (один из руководителей румынских спецслужб). По словам Абрамова и Фосса, все посылки людей в СССР Жолондовским производились на английские деньги, а счет представляли генералу Миллеру».
После провала румынского канала советской разведке важно было узнать где и через кого РОВС продолжит переброску в СССР своих террористов. Ответ на этот вопрос был получен от ближайшего соратника Миллера, отвечавшего за разведывательную работу, генерала Николая Скоблила, сотрудничавшего вместе с женой — певицей И.В. Плевицкой — с советской разведкой с 1930 года.
По оценке ИНО ОГПУ, через год после вербовки Скоблин «стал одним из лучших источников, довольно четко информировал Центр о взаимоотношениях в руководящей верхушке РОВС, сообщал подробности о поездках Миллера в другие страны». Гастроли его жены Плсвицкой давали возможность Скоблину осуществлять инспекторские проверки периферийных подразделений РОВС и обеспечивать советскую разведку оперативно значимой информацией. С помощью Скоблила были ликвидированы боевые кутеповские дружины, скомпрометирована идея генералов Шатилова и Туркула о создании в РОВС террористического ядра для использования его на территории СССР. В конечном счете Скоблин стал одним из ближайших помощников Миллера но линии разведки и его поверенным в делах центральной организации РОВС. Когда некоторые члены РОВС стали высказывать подозрения относительно сотрудничества Скоблила с советской разведкой, Миллер решительно выступил в его защиту.