В январе 1077 года Григорий находился в неприступной горной крепости, Каноссе, принадлежавшей тосканской маркграфине Матильде. Столько раз упоминавшаяся историографами, поэтами и драматургами сцена трехдневного стояния Генриха в одежде кающегося грешника перед крепостными воротами означала в действительности победу униженного короля над папой: Генрих, без оружия, с женой и ребенком, в сопровождении нескольких епископов появился у стен крепости. После трехдневного покаяния, которое, вопреки общему мнению, Генрих совершал вовсе не босиком и в рубище, а в одежде кающегося грешника, накинутой поверх королевского одеяния, папа, главным образом по настоянию аббата из Клюни Гуго и Матильды, вынужден был отпустить грехи Генриху и ввести короля вместе с его епископами в церковь (28 января 1077 года). Григорий действительно не мог не признать соответствующее канонам покаяние и отказать королю в отпущении грехов. Возвращение Генриха в лоно церкви означало и то, что он вернул себе свое королевское достоинство. Против папы обратилось его же собственное оружие, из которого Генрих выковал свое счастье. Григорий в Каноссе потерпел поражение.
Однако германские герцоги не стали ждать папу, их не заботило происшедшее в Каноссе. В марте 1077 года они избрали нового короля в лице швабского герцога Рудольфа. Рудольф обещал сохранить выборный характер королевской власти и не делать ее наследственной. Сепаратистские силы Германии сплотились вокруг идеи выборной королевской власти против Генриха, отстаивавшего абсолютизм. Возвращенный в лоно церкви Генрих, не слишком заботясь о клятве в Каноссе, сразу же привлек на свою сторону ломбардских епископов, быстро преодолев Альпы, возвратился домой и начал борьбу с Рудольфом. Генрих в Каноссе вновь получил свободу рук, чтобы расправиться с внутренней оппозицией. Общество в Германии и Италии раскололось на две партии: на партию папы и партию императора. Население городов в Германии поддерживало Генриха, ожидая, что он сможет обуздать феодалов. В Италии же поддерживали Григория против немцев. Высшее германское духовенство разделилось в зависимости от того, кого больше боялись: короля или папы. А герцоги, графы меняли свои позиции в зависимости от того, где они могли получить больше владений. Борьба между двумя лагерями проходила с переменным успехом. Вначале папа Григорий не определял своей позиции и не поддерживал ни одну из сторон, ибо он был заинтересован в ослаблении королевской власти. Но когда в 1080 году стало ясно, что победа за Генрихом, папа вновь вмешался. На соборе, собравшемся в пост, была окончательно запрещена светская инвеститура. После того как Генрих не утвердил этого решения, он вновь был отлучен от церкви. Папа, извлекший урок из Каноссы, признал Рудольфа законным королем и направил ему корону с надписью «Petra dedit Petro, Petrus diadema Rudolfo» («Скала дала Петру, Петр — корону Рудольфу»). Генрих с приближенными к нему епископами созвал в Бриксене собор, на котором Григорий VII был вновь низложен и отлучен от церкви. Новым папой Климентом III (1080–1110) был избран равеннский архиепископ Вибер, руководитель ломбардских епископов, выступавших против Григория.
Германский король встретил неожиданно мощную поддержку среди епископов Ломбардии, которые, как и германские епископы, не без причины опасались того, что григорианское папство низведет их до уровня своих заурядных служителей. В то же время самый крупный светский князь Северной Италии вновь был на стороне папы. Главной опорой Григория VII и его преемников в Италии была тосканская маркграфиня Матильда (родственница Генриха), независимости которой угрожала императорская власть. Матильда поддерживала папство, помогая ему деньгами, войском и, наконец, уступив Тоскану. Тоскана в то время составляла почти ¼ часть всей Италии (Модена, Реджо, Ферарра, Мантуя, Брешиа и Парма). Эти владения отец Матильды получил как вассальные от императора. Матильда и Григорий создали свою партию, и, как утверждают многие авторы, их связь носила не только политический характер.
В ходе вооруженной борьбы в 1080 году антикороль Рудольф был смертельно ранен и вскоре скончался. Генрих снова обратил свой взор в сторону Италии. В течение 1081–1083 годов германский король предпринял несколько походов на Рим, но папе удавалось успешно обороняться, опираясь главным образом на вооруженные силы Матильды. В конце концов в 1084 году в руки короля попал и Рим. Григорий с несколькими своими верными приверженцами бежал в Замок Святого Ангела. Противника короля-победителя вновь низложили, а антипапу торжественно возвели на папский престол, и из его рук Генрих принял императорскую корону. Наконец в конце мая 1084 года Роберт Гюискар, не очень проворный норманнский вассал папы Григория, освободил Замок Святого Ангела (норманны для укрепления своих позиций в Южной Италии хотели использовать папство). Генрих и антипапа вынуждены были оставить Рим. В ходе беспощадных боев свирепые норманнские воины подвергли и Рим разграблению. Гнев римлян обратился против призвавшего норманнов Григория, который вместе со своими спасителями бежал из города. Больше он уже не смог туда вернуться и 25 мая 1085 года скончался в изгнании, в Салерно, среди норманнов.
Создатель великодержавных позиций средневекового папства закончил жизнь изгнанником, по-видимому, с горьким сознанием того, что дело всей его жизни полностью погибло. Действительно, практически реализовать григорианскую теорию папства, сформулированную в «Диктате папы», оказалось невозможным и в более поздние времена. Так, например, требование Григория об объявлении прижизненной святости папы, точнее, почитание папы святым еще при жизни не перешло в каноническое право. Непогрешимость папы (infallibilitas) в новое время была почти забыта, и лишь в XIX веке это положение стало догматом. Несмотря на трагическую судьбу Григория, он оказал судьбоносное влияние на христианство и церковь. Он сформулировал и наиболее последовательно представлял теократические требования: создать мир по образцу духовной державы. Не в последнюю очередь христианство именно этим обязано своему сохранению и расцвету: с этим требованием христианство выступало на протяжении истории, наиболее успешно как раз в средние века.
Вряд ли можно отказать Григорию в большом уме — ведь он без обычных светских средств власти, в первую очередь без армии, играл роль завоевателя мира, заставлял склоняться перед собой сидящих на тронах, бросил вызов императору, считавшему себя властителем христианского мира.
К образу действия и политике Григория в истории церкви можно относиться с симпатией или с осуждением, но несомненно, что его фанатичный и несгибаемый понтификат не только восстановил авторитет папства, но и заложил фундамент политической власти пап на последующие два века. Начиная с 1947 года григорианская реформа пристально изучается историками церкви.
Гильдебранд был монахом маленького роста и невзрачного вида, но в его неказистом теле обитал необычайной силы дух. Он чувствовал себя харизматиком и, выполняя свое предназначение, был не слишком разборчив в средствах. Даже современники воспринимали его со смешанным чувством страха и удивления или даже с ненавистью. Петр Дамиани назвал фанатичного монаха, попавшего на папский престол, Святым Сатаной, сравнение не слишком подходящее, но меткое. Оно вновь всплыло во времена еретических движений и Реформации для характеристики папы, но без определения «святой».
Согласно мнению отдельных категоричных историков, история папства начинается лишь в христианское средневековье, и о папстве в современном понимании мы можем говорить лишь начиная с понтификата Григория VII. Эта концепция явно исходит из того, что папская верховная власть, как результат длительного исторического развития, действительно стала цельной во всех отношениях при Григории VII, хотя возвыситься над императором папа смог лишь во времена преемников Григория VII.
После смерти Григория VII император Генрих оказался на вершине триумфа. В Рим возвратился антипапа Климент III. Григорианские епископы, бежавшие к норманнам, лишь в 1088 году смогли избрать папой под именем Урбана II (1088–1099) епископа из Остии. Урбан был по происхождению француз и из приора Клюни стал самым близким и доверенным сотрудником Григория. Однако в противоположность своему предшественнику он избегал всего, из-за чего благодаря своей непримиримости потерпел поражение Григорий. Император Генрих стремился соединить своих южноитальянских противников с североитальянскими приверженцами папства, примером чему может служить тот факт, что он женил едва достигшего 17-летнего возраста сына баварского герцога Вельфа на 43-летней тосканской маркграфине Матильде, главной опоре папства.