В октябре 1917 года он стал членом петроградского Военно-революционного комитета. Зиновьев и Каменев выступили против решения о вооруженном восстании. Они попытались заручиться поддержкой Петроградского комитета РСДРП(б), но ПК во главе с Бокием дал им отпор. «Петроградский комитет через своего представителя в ЦК тов. Бокия поднимал свой голос за решительность в действиях», — вспоминал спустя пять лет после этих событий М. Я. Лацис. Г. И. Бокий — участник исторического заседания ЦК 16 октября 1917 года, подтвердившего решение ЦК от 10 октября о вооруженном выступлении. Как секретарь ПК и член Военно-революционного комитета, Г. И. Бокий был одним из руководителей Октябрьского вооруженного восстания.

Во время Брестских переговоров Бокий являлся противником заключения мира на навязываемых Германией условиях и с другими членами Исполкомиссии ПК подписал протест против мира. Позднее он работал сотрудником органа «левых» «Коммунист», а во время мартовского наступления немцев в 1918 году на Петроград Бокий, оставив партийную работу, вошел в состав «Комитета революционной обороны Петрограда».

В марте 1918 года Бокий был назначен на пост заместителя председателя Петроградской ЧК. Как член Военно-революционного комитета он до создания ВЧК занимался подавлением контрреволюции и борьбой со спекуляцией и саботажем, будучи же секретарем Петроградского комитета партии, выступил инициатором создания отряда по оказанию помощи чекистам. Так что переход Бокия в органы ПЧК, казалось бы, вполне закономерен.

Бокий участвовал в создании структур Чрезвычайной комиссии, занимался хозяйственными вопросами, рассмотрением конфликтных ситуаций среди сотрудников. Он стремился быть объективным и на своем месте помог некоторым людям восстановить справедливость — например, разобравшись в деле снятого с поста председателя Гатчинского ЧК Серова, Бокий добился его восстановления в должности.

После убийства Моисея Урицкого 31 августа 1918 года Г. И. Бокий стал председателем Петроградской ЧК и ЧК Союза коммун Северной области. Прошло чуть больше часа после выстрела, оборвавшего жизнь Урицкого, а во все концы Союза коммун Северной области посыпались телеграммы от имени Президиума Петроградского Совета с подписью Зиновьева. В них предписывалось: «Немедленно привести все силы в боевую готовность… организовать повальные обыски, аресты среди буржуазии, офицерства… студенчества и чиновничества… обыскать и арестовать всех буржуа англичан и французов…»

Постановление о «красном терроре» появилось в печати 5 сентября, а расстрелы в Петрограде начались уже 2 сентября. Выполнять эти решения должна была ПЧК во гдаве с Бокием.

6 сентября «Петроградская правда» опубликовала за подписью Бокия такое сообщение ВЧК:

"…Правые эсеры убили Урицкого и тяжело ранили т. Ленина. В ответ на это ВЧК решила расстрелять целый ряд контрреволюционеров, которые и без того давно уже заслуживали смертную казнь.

Расстреляно всего 512 контрреволюционеров и белогвардейцев, из них 10 правых эсеров… Мы заявляем, что, если правыми эсерами и белогвардейцами будет убит еще хоть один из советских работников, нижеперечисленные заложники будут расстреляны".

Среди заложников были великие князья, бывшие министры Временного правительства, представители имущих слоев, генералы и офицеры.

Трусливо-истеричный Зиновьев требовал от ПЧК еще больших оборотов «расстрельной машины». На этой почве и произошел окончательный разрыв Бокия с Зиновьевым, стоявшим за уличные расправы без суда и следствия.

«Знает ли товарищ Зиновьев, к чему приведет такое, с позволения сказать, „правосудие“? — спрашивал Бокий. — Это приведет к бойне! Начнется бесчинство».

Члены президиума поддержали председателя ПЧК.

Этого Зиновьев уже не мог простить. Он начал добиваться смещения Бокия. Е. Д. Стасова пишет в своих воспоминаниях: «Глеб Иванович догадывался, чем это вызвано, но не мог поверить, взять в толк, что партийный товарищ станет использовать свою должность для сведения личных счетов».

Е. Д. Стасова просила председателя ВЦИК Я. М. Свердлова перевести Бокия на работу в Москву. Однако Свердлов направил его агентом ЦК РКП(б) в Белоруссию «для подробного ознакомления с постановкой и ведением нелегальной работы в оккупированных областях». Во главе комиссии из нескольких петроградских коммунистов Г. И. Бокий выехал в занятый немцами Минск для обследования деятельности комитета РКП(б) Западной области. Здесь он вошел в состав Революционного совета германской армии в Минске, одновременно организовал Совет рабочих депутатов.

В конце ноября 1918 года Бокий возвратился из освобожденной Белоруссии и тут же был командирован на Восточный фронт. В марте 1919 года его назначили членом Турккомиссии ВЦИК и ЦК РКП(б), но из-за наступления Колчака прервалось сообщение с Туркестаном, и Г. И. Бокий не смог добраться до места службы и был назначен начальником Особого отдела Восточного фронта. С марта по октябрь 1919 года он пребывал в этой должности в Симбирске. После разгрома Колчака и наступления на Туркестан Бокий был начальником Особого отдела Туркестанского фронта и полномочным представителем ВЧК в Туркестане, одновременно являясь членом Турккомиссии ВЦИК и ЦК. В сентябре 1920 года Глеб Иванович вернулся в Россию и до начала 1921 года лечился от туберкулеза. С января 1921 года Бокий вновь приступил к работе в органах ВЧК в Москве. Он был в составе коллегии ВЧК — ОГПУ — НКВД СССР, а в 1925 — 1926 годах находился на должности заместителя председателя ОГПУ.

5 мая 1921 года постановлением Малого Совнаркома была создана криптографическая служба при ВЧК — специальный отдел (СПЕКО). Г. И. Бокий руководил созданием отдела, а затем был назначен его начальником.

Спецотдел следил за режимом секретности и охраной государственной тайны. В сфере его внимания находились автономные передатчики, а также передающие устройства посольств и иностранных миссий. Все где-либо перехваченные материалы стекались для дешифровки в Спецотдел. В 1924 году СПЕКО завершил разработку «Русского кода», на несколько десятилетий ставшего основным шифром в работе всех служб СССР.

Личный состав Спецотдела проходил по гласному и негласному штату. К негласному штату относились криптографы и переводчики, для которых были установлены должности «эксперт» и «переводчик», работники же отделений, непосредственно не связанные с криптографической работой (секретари, курьеры, машинистки и др.). представляли гласный состав. К 1933 году в Спецотделе по гласному штату числилось 100, а по секретному — 89 сотрудников.

Как считал начальник Разведуправления РККА Я. К. Берзин, «дешифровально-разведывательная служба — одна из сложнейших специальностей. Подготовка кадров для нее — более трудное дело, чем в какой-либо другой области науки и техники». Криптограф, по мнению Берзина, должен был обладать широкой научной эрудицией, способностью к самостоятельной научно-исследовательской работе, беспримерным терпением, быстрой сообразительностью и хорошей ориентировкой, незаурядной смекалкой и комбинационными талантами. Поэтому Г. И. Бокий специально подыскивал для своего отдела людей, обладавших уникальными навыками.

Создавая СПЕКО, Г. И. Бокий использовал опыт старых специалистов-криптографов — бывших сотрудников криптографической службы царской России. К дешифровальной работе в качестве экспертов-аналитиков привлекались люди, хорошо владевшие самыми разными языками, в том числе и малораспространенными. В разработке основ новой службы приняли участие и те, кто ранее не сталкивался с подобными вопросами. Этих людей Бокий лично пригласил для работы в Спецотдел, исходя из их деловых качеств.

Л. Э. Разгон, сотрудничавший в отделе Бокия в ЗО-е годы, вспоминал: «В спецотделе работало множество самого разного народа, так как криптографический талант — талант от Бога. Были старые дамы с аристократическим прошлым и множество самых интересных и непонятных людей. Был немец с бородой почти до ступней. Был человек, который упоминается почти во всех книгах о Первой мировой войне, — шпион-двойник, был Зыбин, председатель месткома, известный как дешиф-ровальщик, прочитавший когда-то переписку Ленина».