Основными «внутренними врагами» американской политической системы в глазах GID были различные анархистские, коммунистические и профсоюзные организации. Среди последних особенно выделялась созданная в 1905 году и объединявшая в своих рядах более 6 тысяч человек организация «Индустриальные рабочие мира». На протяжении 1918–1919 годов ее члены неоднократно обвинялись Бюро расследований в подготовке различных террористических актов, однако доказательств этого добыть так и не удалось. К 1922 году Бюро располагало картотекой уже более чем на 500 тысяч американских граждан. В 1922 году на GID была возложена также борьба со шпионажем, наркобизнесом и проведение расследований в интересах других федеральных ведомств.
Однако с приходом в Белый дом президента Кэлвина Кулиджа деятельность Бюро расследований была переориентирована с преследований инакомыслящих на борьбу с уголовной преступностью. Возглавивший в марте 1924 года министерство юстиции Харлан Ф. Стоун приостановил программу борьбы с радикализмом, запретил GID прослушивание телефонных разговоров, привлечение к негласному сотрудничеству членов радикальных организаций и групп и внедрение в их ряды официальных сотрудников Бюро. Стоя на формальных позициях «буржуазной юстиции», Стоун полагал, что компетенция ФБР должна определяться федеральными законами. Практика последующих десятилетий наглядно продемонстрировала, что он заблуждался.
В мае того же 1924 года Гувер был назначен исполняющим обязанности директора Бюро расследований, а в декабре он стал его полноправным директором. На момент прихода Гувера к руководству в Бюро расследований работало 650 служащих, включая 441 специального агента.
В 1932 году конгресс утвердил федеральный закон о похищениях людей, ставший первым из длинной череды юридических актов, постепенно расширивших полномочия и влияние Бюро расследований, которое 1 июля того же года было переименовано в Бюро расследований США. В августе 1933 года последовало новое переименование, и Бюро стало называться Управлением расследований. При этом сфера деятельности организации резко расширилась — в его состав была включена служба, контролирующая выполнение «сухого закона» (впрочем, в декабре 1933 года «сухой закон» был отменен). Наконец, в июле 1935 года ведомство Гувера было преобразовано в Федеральное бюро расследований (ФБР), а Гувер стал его первым директором.
Хотя все эти годы основное внимание ФБР уделялось борьбе с преступностью, Гувер, будучи убежденным антикоммунистом, ни на минуту не забывал, что главными врагами Соединенных Штатов являются не гангстеры и мафиози, а большевики и прочие инакомыслящие. В этом он нашел поддержку и понимание президента Франклина Рузвельта. 25 августа 1936 года Ф. Рузвельт поручил Гуверу начать широкое негласное наблюдение за деятельностью оппозиционных политических партий и групп, как левых, так и правых. При этом была сделана оговорка, что полученные таким образом материалы не могут служит основанием для судебных преследований и выступать в качестве доказательств.
А в июне 1939 года Рузвельт, опять же тайно, распорядился о том, чтобы все государственные структуры докладывали в ФБР о каждом факте, «непосредственно или косвенно относящемся к шпионажу, контршпионажу и саботажу». Таким образом, с 1939 года ФБР становится головным органом контрразведки США. В связи с этим в сентябре 1939 года в составе ФБР было воссоздано Управление общих расследований с целью «расследования деятельности групп и граждан, вовлеченных в подрывную, шпионскую и любую другую деятельность, которая создает угрозу национальной безопасности США».
В 1934 году конгресс запретил телефонное прослушивание (Закон о средствах связи). Но тем не менее ФБР с санкции министерства юстиции продолжало этим заниматься, поскольку руководство министерства трактовало закон как запрет не на само прослушивание, а лишь на разглашение информации, полученной таким способом. А в мае 1940 года Рузвельт издал секретную директиву, разрешавшую прослушивать телефоны людей, подозреваемых в подрывной антигосударственной деятельности.
В июне 1940 года сотрудники ФБР тайно проникли в нью-йоркский офис Американского молодежного конгресса и перефотографировали некоторые документы, среди которых были письма от Элеоноры Рузвельт, жены президента. Также шеф ФБР санкционировал и «негласные обыски» и в помещениях черных общин Соединенных Штатов, объясняя это своей озабоченностью по поводу «брожения среди негров». Таким образом, мы наблюдаем парадоксальную закономерность: разгул политических репрессий со стороны Бюро расследований приходится на президентство либерала Вудро Вильсона, затем эта деятельность прекращается при консервативном президенте Кэлвине Кулидже и вновь расцветает при либерале Франклине Рузвельте.
После начала Второй мировой войны Гувер отдал распоряжение своим подчиненным подготовить справки на всех лиц, замеченных «в симпатиях к Германии, Италии и коммунизму». Фамилии этих людей заносились в особый список, по которому планировалось провести аресты в случае вступления Соединенных Штатов в войну. Гувер также санкционировал негласные обыски в помещениях дипломатических представительств иностранных держав с целью получения секретной информации.
В июне 1940 года в составе ФБР создается Служба специальной разведки, перед которой была поставлена задача препятствовать внедрению нацистских тайных агентов и шпионов в страны Латинской Америки. Таким образом, полномочия ФБР как контрразведывательной организации впервые распространились за пределы Соединенных Штатов.
7 декабря 1941 года после неожиданного удара японской авиации по Перл-Харбору Соединенные Штаты вынуждены были вступить во Вторую мировую войну. На следующий же день ФБР начало аресты по своим заранее подготовленным спискам. К 10 декабря было задержано 2342 человека из числа граждан Японии, Германии и Италии. Впрочем, когда 19 февраля 1942 года президент Рузвельт подписал чрезвычайный указ № 9066 о выселении из западных штатов всех без исключения лиц японской национальности и размещении их в лагерях в центральной части страны (согласно этому указу было интернировано около 120 тысяч человек, из которых две трети являлись американскими гражданами), выполнение этой миссии было возложено на военных. Таким образом, ведомство Гувера избежало сомнительной чести организовывать массовые депортации.
Поскольку в военное время роль ФБР как главной контрразведывательной службы существенно выросла, резко увеличились и его полномочия, а также численность аппарата. Если в 1940 году в ФБР работало всего 898 агентов, то к 1943 году — 4000, а в 1945 году — уже 4886 человек, при этом общее число сотрудников достигало 13 тысяч.
Следует сказать, что в отличие от печального опыта предыдущей войны в ходе Второй мировой войны ФБР действовало весьма успешно. За все годы войны ни немцам, ни японцам так и не удалось создать на территории Соединенных Штатов постоянно действующую агентурную сеть. Эффективно действовала и работавшая в Латинской Америке Служба специальной разведки ФБР, в первую очередь благодаря помощи дружественных США латиноамериканских режимов. На момент «расцвета» эта служба насчитывала 360 сотрудников, многие из которых работали в американских дипломатических миссиях «легальными резидентами» в качестве атташе. Собранная ими информация позволила арестовать 389 шпионов, 30 диверсантов и 281 нацистского агитатора.
После окончания Второй мировой войны СССР из недавнего союзника Соединенных Штатов превращается в их главного противника, и в стране начинает раскручиваться антикоммунистическая истерия. Тогда-то и наступил «звездный час» Гувера. В 1947 году президент Г. Трумэн возложил на ФБР задачи по определению благонадежности государственных служащих и кандидатов на замещение государственных постов и должностей. В 1948 году министерство юстиции поручило ФБР арестовать 145 лидеров Компартии США и возбудить против них уголовные дела в соответствии с «законом Смита», запрещающим призывы к насильственному свержению существующего государственного строя. 109 человек были затем осуждены, и на большинстве процессов основными свидетелями со стороны обвинения выступали информаторы ФБР, внедренные в свое время в Коммунистическую партию.