После освобождения Рогов еще месяц болел у себя дома, в деревне Жуланиха Причернского края. Вскоре атаману были принесены извинения за неоправданный арест, власти предложили ему ответственную работу в Барнаульской губЧК, из партийной кассы ему были выплачены 10 тысяч рублей «на поправку».

К этому времени в Сибири сформировалась «критическая масса» недовольных новым режимом большевиков. Большие сибирские села в несколько тысяч жителей, как правило, были сильно удалены от городов, и степень их экономической и социальной самостоятельности, навыки самоорганизации были выше, чем в Центральной России. Сибиряки были вооружены, имели опыт партизанства, знали тайгу и ценили свою свободу. Они не нуждались во власти центрального правительства, не видели от него помощи, а испытывали только поборы и страдали от карательных отрядов. Жители Сибири мечтали о децентрализации управления, о всевластии советов на местах, о кооперативно-артельном самоуправлении. Им казалось, что должна пройти еще одна — «третья революция», чтобы установились свобода и равенство на их земле. Анархисты Сибири использовали выборы в советы весной 1920 года для критики советской власти. В Жуланихе, на съезде бывших партизан, они, среди прочего, провели сбор средств на «поправку» Рогова.

В начале 1920 года в Партизанской армии Сибири сложилась напряженная обстановка. Первым выступлением повстанцев против диктатуры пролетариата стала козыревщина. Реввоенсовет 5-й армии в январе отстранил от командования повстанческого атамана Козыря — командира 4-го крестьянского корпуса. Тот с частью верных ему повстанцев перебрался в Усть-Каменогорск, где призвал повстанцев и крестьян создавать «советскую власть без коммунистов», бороться за «истинно Рабоче-Крестьянскую Социалистическую Советскую власть». Атаман был против замены выборных крестьянских советов «назначенцами» — «темными людьми». Он агитировал не подчиняться коммунистическим ревкомам, заявив, что «нам, крестьянам, не нужно никакой власти, нам нужно народное право».

В сибирских селах в это время установилась самостоятельная «крестьянская власть». Район деревни Солоновки, где создавалась Красная партизанская армия Мамонтова, и район Камня, где находились бывшие партизаны 2-го корпуса армии Мамонтова, превращались в самостоятельные «республики». На их территориях разгонялись коммунистические ячейки. Как и в Украине в 1919-м, сибирские деревни стали похожи на военные лагеря, они окопались и выставили военные заслоны. Острый конфликт с Козырем большевикам удалось замять, и он не перерос в вооруженное столкновение. Однако напряжение между «красным городом» и независимой сибирской деревней с каждым новым днем военного коммунизма только возрастало.

В марте 1920 года в Кузнецке чекистами были задержены 20 человек из отряда Рогова, которые вели анархистскую пропаганду. Эти люди распространяли слухи о том, что атаман Рогов уже выступил против советской власти и организует новый партизанский отряд. Анархисты тогда выступали под довольно-таки странным лозунгом «Долой коммунистов, да здравствуют большевики!». В Кузнецке на заборах были расклеены листовки, подписанные «Левее левых», которые призывали к свержению советской и вообще «всякой власти» и к провозглашению анархии, которая гарантирует народу «истинную свободу, равенство, братство!»

В конце апреля в районе Жуланихи под черными знаменами с надписью «Анархия — мать порядка» стали собираться группы бывших анархиствующих бойцов. 1 мая около тысячи человек приняли участие в торжественном перезахоронении в Жуланихе тел партизан — жертв колчаковского террора. На траурном митинге ораторы заявляли, что большевики установили режим «хуже царских генералов», что партизаны «зря проливали кровь». Митингующие возмущались созданием ревкомов, использованием «буржуазных спецов», новыми повинностями, неуважительным отношением новой власти к партизанам и их вождям Новоселову, Рогову, Козырю, Лубкову.

3 мая повстанцы в количестве около 800 человек начали боевые действия против диктатуры большевиков в Сибири. Они захватили Жуланиху, Мироновку, Кытманово, Тогул, Уксунай, Чумыш, Евдокимово, где разгонали ревкомы, советы, местную милицию. В тот же день Рогов появился в Тогуле, фактически став вождем восстания. Впрочем, существует версия, что лично атаман в восстании участия не принимал, потому что продолжал болеть тифом. Но он, так или иначе, поддержал лозунги и программу повстанцев. 6 мая большевики объявили Рогова «предателем революции», а через два дня Алтайский губревком опубликовал приказ «О борьбе с новоселовскими бандами», в котором Рогов и Новоселов объявлялись белогвардейцами. Сибирский ревком призывал повстанцев добровольно сложить оружие и сдаться, обещая амнистию и зачисление в ряды Красной армии.

10 мая к восстанию присоединился атаман Новоселов. Он собрал отряд повстанцев-анархистов (в 700–800 штыков), который занял несколько таежных сел. Однако Новоселову не удалось захватить стратегическую инициативу. 26-я дивизия Красной армии в 20-х числах мая оттеснила повстанцев от линии железных дорог и крупных поселков. 27 мая отряд Новоселова был выбит из села Брюханова и ушел в тайгу. Разгромленный отряд выходил из-под ударов красных, разбившись на три группы, потеряв свое черное знамя и половину бойцов.

В конце мая 1920 года Новоселов и Рогов снова объединили свои соединения, собрав до двух тысяч бойцов. Однако повстанцы избрали проигрышную тактику, уклоняясь от крупных боев и отступая перед регулярными частями Красной армии. Впрочем, и красноармейцы часто не желали идти на столкновения с партизанами. И красные, и черные повстанцы были одной крови — революционной, хотя Рогова красная пропаганда называла то «правым эсером», то «колчаковским подпоручиком», то «агентом царской охранки».

После десятка кровавых боев в июне силы Рогова–Новоселова были рассеяны на небольшие отряды, укрывшиеся на таежных заимках. В середине июля Рогов с небольшой группой повстанцев уходил от преследования. 20 июня, в перестрелке с красными, жена Рогова была убита, сам атаман был ранен, но ему удалось скрыться в тайге, где он прятался до 3 июля, когда был обнаружен карателями на отдаленной зимовке. Рогов пытался бежать, отстреливался, но был несколько раз ранен. Далее, по одной из версий, он, не желая попасть в плен, застрелился или был убит при сопротивлении во время ареста. Еще по одной версии, Рогов направился в Барнаул, чтобы сдаться властям и объяснить свое неучастие в восстании.

Нужно отметить, что в селах, поддержавших восстание Рогова–Новоселова, разверстка не назначалась, а выступления были спровоцированы разоружением, расформированием партизанских отрядов, попытками властей записать бывших партизан в Красную армию и отправить их на советско-польский фронт.

В районе Прокопьевского рудника до лета 1921 года действовал анархистский отряд Аньки Белокобыльской, к которой перешла часть отряда погибшего Рогова. Ее бойцы убивали «гадов», устраивали поджоги и взрывы. После гибели атамана Рогова с Алтая в район Кузнецка прибыл партизанский отряд Ивана Толмачева — соратника Рогова, в том же районе действовали мелкие самостоятельные повстанческие группы, которые возглавляли анархисты Леонов и Сизиков. До 1922 года действовали партизанские отряды Новоселова и бывших сподвижников Рогова братьев Мурзиных.

Примерно с июня 1920 года командование отрядом Рогова-Новоселова перешло в руки Новоселова, который более чем Рогов был ориентирован на анархистские лозунги. Еще в конце февраля 1920-го он объявился в деревнях Причернского края. В марте Новоселов предупреждал большевиков — «будем резать ревкомы». Своих новых врагов он определял расплывчатым термином «гады», считая, что они «несут новый гнет». Атаман зачислял в число «гадов» всех богатых и влиятельных людей — «недострелянных» офицеров и буржуев, интеллигентов-специалистов, коммунистов-бюрократов. «У вас в Барнауле много гадов, которые сидят на тепленьком местечке и кушают жареные котлеты, почему вы не делаете чистку этим гадам... Мы кровь проливали... чтобы уничтожить этих гадов, а власть их огораживает штыками», — вещал Новоселов. На крестьянских сходах он призывал: «Не признавать никакой власти... вырезать бывших офицеров и инженеров, замаскировавшихся и примазавшихся к РКП(б)». Это была программа кровавой социальной чистки, которую воплотит в жизнь Сталин в 1920–1930-х годах.