Напряженная работа не стала помехой для совершенствования и приобретения знаний в области исторических и юридических наук, литературы и искусства. Благодаря исключительной способности к изучению иностранных языков, Иван Агаянц свободно владел французским, персидским, турецким и испанским языками, достаточно хорошо знал английский и итальянский.

В 1936 году энергичного молодого сотрудника переводят в аппарат внешней разведки, а уже в 1937 году направляют на оперативную работу во Францию. В парижской резидентуре он находился сначала под прикрытием сотрудника Торгпредства, а затем — заведующего консульским отделом Посольства СССР.

По возвращении в Москву в конце 1939 года после успешной отработанной командировки Агаянц становится начальником отделения, а вскоре — заместителем начальника одного из подразделений 5-го (разведывательного) отдела ГУГБ НКВД СССР (внешней разведки).

В начале 1940 года И.И. Агаянц направляется резидентом в Иран. Обстановка в этой стране в то время была сложной. Благодаря умелой, всесторонне продуманной организации широкого комплекса разведывательных мероприятий, большой личный вклад в которую внес Агаянц, резидентура успешно справилась со стоявшими перед ней задачами. Агаянц лично участвовал в проведении разведывательных операций, связанных порой с риском для жизни, проявлял незаурядные способности в вербовочной работе. В документах того времени, в частности, говорилось: «Важная оперативная разведывательная информация, получаемая советскими разведчиками в Иране, сыграла существенную роль при принятии военным командованием и руководством страны тех или иных политических и военно-стратегических решений».

Сложная и ответственная работа выпала Агаянцу и его сотрудникам накануне и в ходе Тегеранской конференции руководителей трех союзнических государств, состоявшейся в конце 1943 года. Советской разведке во главе с её главным резидентом в Иране удалось переиграть Отто Скорцени, готовившего покушение на лидеров СССР, США и Великобритании, и разрушить замыслы террористов.

После Ирана, в 1946 году, Иван Иванович вновь выезжал в Париж, теперь уже в качестве резидента. Однако по состоянию здоровья командировка не была продолжительной (дал себя знать хронический туберкулез, которым этот энергичный и жизнестойкий человек страдал с середины тридцатых годов).

В то время в Париже проходила вторая сессия Совета министров иностранных дел СССР, США, Великобритании и Франции, готовившая проекты договоров для предстоящей Мирной конференции. Ивану Ивановичу пришлось организовывать работу по оказанию помощи советской делегации, которую возглавляли В.М. Молотов и А.Я. Вышинский.

Парижская резидентура под руководством Агаянца активизировала работу: был расширен круг источников за счет хорошо осведомленных людей, приобретены новые ценные агенты и доверительные связи. Сотрудникам резидентуры удалось добыть секретный вариант плана Маршалла, который дал возможность советской делегации строить свою работу с учетом политических целей США в Европе.

Только этих результатов, достигнутых за год работы Агаянца во главе резидентуры, хватило бы для того, чтобы оценить его как крупного разведчика, внесшего большой вклад в укрепление позиций СССР на международной арене.

С 1948 года Агаянц работал на руководящих должностях в центральном аппарате внешней разведки — начальником Управления Комитета информации, начальником кафедры Высшей разведывательной школы. В 1959 году возглавил Службу активных мероприятий. В середине 1960-х годов газета «Нью-Йорк геральд трибюн» сообщала, что ЦРУ направило в Конгресс США доклад, в котором, в частности, указывалось, что «осуществлению многих оперативных мероприятий американских спецслужб активно мешает деятельность управления советской внешней разведки, возглавляемого генералом Агаянцем». В 1967 году И.И. Агаянц был назначен заместителем начальника Первого главного управления КГБ при СМ СССР (внешняя разведка).

За успехи в разведывательной деятельности генерал-майор Агаянц был награжден орденами Ленина, Красного Знамени, Трудового Красного Знамени, Отечественной войны 2-й степени, двумя орденами Красной Звезды, многими медалями, а также нагрудными знаками «Заслуженный работник НКВД» и «Почетный сотрудник госбезопасности». 12 мая 1968 года Ивана Ивановича Агаянца не стало.

В некрологе для сотрудников внешней разведки, подписанном А.М. Сахаровским, говорилось: «На всех участках работы почетный сотрудник госбезопасности генерал-майор Агаянц проявил себя талантливым и энергичным организатором, умным и вдумчивым человеком, обаятельным другом и товарищем... Его деятельность на практической агентурно-оперативной работе за рубежом была чрезвычайно продуктивной. Достаточно сказать, что в период командировки он лично завербовал несколько ценных агентов, которые по настоящее время являются источниками получения важной документальной информации... Несомненен и очевиден также личный вклад И.И. Агаянца в разработку и осуществление крупных комплексных активных мероприятий, нанесших видимый и зримый ущерб противнику».

Любая историческая эпоха, содержание которой характеризуется острым противоборством в обществе, всегда порождала и выдающихся руководителей, и выдающихся работников-исполнителей, чьим трудом и чрезмерными усилиями, потом и кровью осуществлялись передовые идеи того времени.

Сахаровский, родившийся в 1909 году, и Агаянц, родившийся в 1911 году, принадлежат к представителям того поколения советских людей, чьи молодые годы пришлись на период активного строительства нового государства, а зрелость — на восстановление его экономики после разрушительной войны. Их поколение впитало от своих предшественников романтическое стремление к новой жизни и неуемную энергию в борьбе за эту жизнь как на мирном трудовом фронте, так и с оружием в руках, если в этом возникала необходимость.

Их пути сошлись в сентябре 1947 года, когда Иван Иванович вернулся из Парижа в Москву и возглавил одно из управлений Комитета информации при СМ СССР, как тогда называлась разведка. К тому времени за плечами Агаянца был уже семнадцатилетний опыт работы в органах государственной безопасности и внешней разведки.

Сахаровский в то время занимал должность начальника 2-го отдела в управлении, которое возглавил Агаянц. Общение с Агаянцем, который был не только талантливым разведчиком, но и видным политиком и дипломатом, значительно расширило кругозор Сахаровского, приучило его не замыкаться в рамках узковедомственных интересов. Безусловно, школа Агаянца в дальнейшем способствовала успешной работе Сахаровского на посту начальника внешней разведки.

Именно Иван Иванович рекомендовал в октябре 1948 года Сахаровского на должность заместителя начальника одного из управлений Комитета информации. Вновь их пути сошлись при создании в 1959 году во внешней разведке подразделения, на которое были возложены задачи по подготовке и проведению активных мероприятий за рубежом.

В конце 1965 года начальник внешней разведки А.М. Сахаровский подписал следующую характеристику на И.И. Агаянца:

«Полковник Агаянц И.И. в разведке работает более 30 лет, с 1940 года — на руководящих должностях, трижды находился в долгосрочных командировках в капиталистических странах, причем дважды в качестве резидента КГБ. Завербовал несколько ценных агентов, которые по настоящее время являются источниками получения весьма важной документальной информации.

С 1959 года работает начальником отдела активных мероприятий.

И.И. Агаянц обладает обширными знаниями. Исключительно инициативен и трудолюбив, в коллективе пользуется большим авторитетом как один из наиболее квалифицированных и заслуженных сотрудников разведки.

В настоящее время И.И. Агаянц занимает должность, которая по перечню должностей не подлежит замещению генералами. Однако, учитывая заслуги и многолетнюю деятельность И.И. Агаянца в органах разведки, а также то, что он многие годы занимал должности, подлежащие замещению генералами, считаем возможным в порядке исключения представить его к присвоению звания генерал-майора».