Казалось бы, такая же судьба ожидала и юного Глеба. В 1896 году, после окончания реального училища, он вслед за своим старшим братом поступил в Горный кадетский корпус имени императрицы Екатерины II в Петербурге (Горный институт) — крупнейшее в то время высшее техническое учебное заведение России. Одаренному юноше, обладавшему к тому же немалыми сословными привилегиями, была уготована блестящая научная карьера. Однако уже в ранней юности он выбрал для себя путь революционера.
Окончательно определило выбор жизненного пути Глеба следующее событие. В 1893 году Борис, в ту пору студент-выпускник Петербургского горного института, предложил брату и сестре принять участие в демонстрации студентов. Произошло столкновение с полицией. Все трое были арестованы, причем Глеба еще и избили. Их освободили по ходатайству отца. Все эти события пагубно отразились на больном сердце родителя, и спустя несколько дней он скончался. Потрясенные свалившимся на семью горем, братья приняли диаметрально противоположные решения. Если Борис, сочтя себя виновником смерти отца, отошел от политики, то Глеб, наоборот, окончательно встал на стезю профессионального революционера.
Поступив в Горный институт, Глеб сделался головой «Украинской петербургской громады» и принимал активное участие в деятельности студенческих земляческих и революционных кружков. С 1897 года он вступил в петербургский «Союз борьбы за освобождение рабочего класса». В течение последующих 20 лет жизнь Глеба Ивановича Бокия (партийная кличка «Кузьмич», в полицейском управлении проходил как «Горняк») неразрывно связана с петербургской партийной организацией большевиков.
С 1900 года он являлся членом РСДРП. В 1901 году Глеб Бо-кий был арестован на шахтах Криворожского общества, где работал на летней практике. Привлеченный по делу группы «Рабочее знамя», с 9 августа по 25 сентября он содержался под стражей, затем был отдан под особый надзор полиции. Но дознание в отношении Бокия, по соглашению министров внутренних дел и юстиции, в 1902 году прекратили в связи с тем, что в феврале этого года он был снова арестован и выслан на три года в Восточную Сибирь по другому делу — о подготовке в Петербурге уличной демонстрации. Летом 1902 года Бо-кий вновь арестован в Красноярске за отказ выехать в место ссылки, а уже осенью привлечен в Иркутске за разбрасывание прокламаций на публичной лекции. По высочайшему повелению 13 сентября 1902 года, в порядке общей амнистии студентов, высланных за участие в беспорядках весны 1902 года, Г. И. Бокий был освобожден из сибирской ссылки с сохранением надзора полиции в пределах Европейской России, за исключением университетских городов, сроком до 1 июля 1903 года.
В 1904 году Бокий введен в состав Петербургского комитета РСДРП как организатор Объединенного комитета социал-демократической фракции высших учебных заведений. Он выступил одним из организаторов и участников ноябрьской демонстрации 1904 года. 9 января 1905 года, когда не удалось удержать рабочих от шествий на Дворцовую площадь, Глеб находился среди демонстрантов, а затем в составе боевых дружин на баррикадах Васильевского острова. В «Малороссийской столовой», которой заведовал Бокий, был устроен медицинский пункт под руководством доктора П. В. Мокиевского, куда свозились раненые рабочие. 6 апреля 1905 года он снова арестован по делу «Группы вооруженного восстания при Петербургской организации РСДРП». Основанием для ареста явились агентурные сведения, что квартира Бокия и «Малороссийская столовая» служат для конспиративных встреч работников петербургской организации. При обыске в столовой было найдено огромное количество нелегальной литературы. После нескольких месяцев заключения Бокия выпустили под особый надзор полиции, а по указу от 21 октября 1905 года дело прекратили.
В период октябрьских событий и недолгого периода свобод 1905 года Глеб Бокий вел партийную работу в организации Петроградской стороны как член районного комитета, создавал боевые дружины. При полицейской облаве в районном социал-демократическом клубе 18 ноября 1905 года Бокий был избит, a ll декабря арестован на собрании центральной боевой дружины района. При личном обыске у него были отобраны воззвание Союза рабочих депутатов «Ко всему народу», листок Федеративного комитета РСДРП для сбора пожертвований на вооруженное восстание и партийный членский билет. В 1906 году по болезни Бокия освободили из тюрьмы до суда под залог в 3 тысячи рублей, который внес доктор П. В. Мокиевский, а в декабре осужденный Петербургской судебной палатой по процессу «Сорока четырех» Бокий приговорен был к заключению в крепости на 2 года и 6 месяцев с зачетом 6 месяцев 26 дней предварительного заключения, но оставлен временно на свободе вследствие поданной кассации.
В январе 1907 года он начал работать в социал-демократической военной организации, являлся партийным руководителем Охтинского и Пороховского районов. При провале военной организации (дело социал-демократической фракции Второй Государственной Думы) Бокий бежал, но был арестован в июле 1907 года в Полтавской губернии.
С 1912 года Глеб Иванович принимал участие в работе по изданию большевистской газеты «Правда», перед мировой войной являлся секретарем Петербургского комитета. В апреле 1914 года он подлежал аресту по делу типографии Петербургского комитета, помещавшейся в Горном институте, но успел скрыться. А в апреле 1915 года ему пришлось дважды скрываться от ареста из-за провала Петроградского партийного комитета.
1914 — 1915 годы были для подпольщиков особенно трудными. Сменяя одна другую, накатывались волны жесточайших репрессий. Особенно большой урон понесли петербургская и московская организации большевиков. Серия провалов выявила существование в партийных центрах провокаторов, и петроградские большевики организовали так называемую «Группу 1915 года при ЦК», куда вошли самые надежные, много раз проверенные люди, в том числе Бокий, Молотов, Тихомиров, Аросев. Ужесточилась партийная дисциплина, самые серьезные требования предъявлялись к соблюдению конспирации.
Именно тогда впервые проявились те способности Бокия, благодаря которым впоследствии он стал организатором Спецотдела при ВЧК-ОГПУ-НКВД и его бессменным руководителем на протяжении многих лет. Старая большевичка, член партии с 1915 года В. Ф. Алексеева, вспоминая о работе в подполье того времени, писала:
"Конспирация в большевистском подполье, которое подвергалось особенно беспощадным расправам со стороны царских властей, действительно была суровой и сложной и потому не всегда легко давалась людям, особенно новичкам, не искушенным в борьбе. Нарушение правил конспирации могло нанести тяжелый удар по всей подпольной организации, поэтому и новичкам в соблюдении этих правил никаких скидок не делалось.
При аресте Глеба Ивановича забрали и его по виду самые обычные ученические тетради, исписанные математическими формулами, а на самом деле — записями о подпольных делах, зашифрованными математическим шифром. Шифр этот являлся изобретением Глеба Ивановича, и ключ к нему был известен только ему одному. Лучшие шифровальщики, какими только располагала царская охранка, ломали головы над этими «формулами», подозревая в них шифр. Однако раскусить этот орешек они так и не смогли.
«Сознайтесь, — говорил Глебу Ивановичу следователь, — это шифр?» А Глеб Иванович невозмутимо отвечал: «Если шифр, то расшифруйте». С досадой следователь возвращал ему эти загадочные тетради" [Алексеева В.Ф. Петроградское подполье. — М., 1975.].
Весной 1916 года Бокий был вновь арестован по делу Петроградского комитета, освобожден по болезни, а осенью вторично арестован по тому же делу. Снова освобожденный по болезни в декабре 1916 года до решения дела, он вошел вместе со Шляпниковым, Молотовым, Залуцким в Русское бюро ЦК, сыгравшее важную роль в Февральской революции, а сразу после свержения самодержавия возглавил в Русском бюро отдел сношений с провинцией.
С апреля 1917 года, после ликвидации Русского бюро ЦК, и до марта 1918-го Г. И. Бокий являлся членом Исполнительной комиссии и секретарем Петроградского комитета партии. Вместе с другими видными деятелями партии он представлял столичную организацию на Седьмой (Апрельской) конференции и на VI съезде РСДРП(б), а в последующем был непременным делегатом всех партийных съездов. В июльские дни Бокий в составе делегации большевиков от Петроградского комитета вел переговоры с меньшевиками и эсерами.