Олег не думал исполнять договора и являться в Киев на княжеский съезд. Вместо того он явился в Смоленск (где тогда неизвестно каким путем сел брат его Давид), набрал там войска и, вышедши оттуда, пошел вниз по Оке, ударил на Муром, который достался в управление сыну Мономаха Изяславу, посаженному на княжение в соседней ростовской земле. (Отец Олега Святослав, сидя в Чернигове, был в то же время на княжении и в Муроме, и потому Олег считал Муром своею отчиною). 6 сентября 1096 года Изяслав был убит в сече. Олег взял Муром и оковал всех найденных там ростовцев, 6елозерцев и суздальцев: видно, что князь Изяслав управлял муромцами при помощи людей своей земли. В Муроме и его волости в то время еще господствовало язычество; край был населен народом финского племени, муромою, и держался за князьями только посредством дружины, составлявшей здесь, вероятно, еще единственное славянское население в те времена. В Ростове, Суздале и Белозерске, напротив, славяно-русская стихия уже прежде пустила свои корни, и эти края имели свое местное русское население.
Олег, отвоевавши Муром, взял Суздаль и поступил сурово с его жителями: одних взял в плен, других разослал по своим городам и отнял их имущество. Ростов сдался Олегу сам. Возгордившись успехами, Олег затевал подчинить своей власти и Новгород, где на княжении был другой сын Мономаха Мстислав, молодой князь, очень любимый новгородцами. Новгородцы предупредили покушение Олега и, прежде чем он мог встать с войском на новгородской земле, сами отправились на него на ростовско-суздальскую землю. Олег убежал из Суздаля, приказав в досаде сжечь за собою город, и остановился в Муроме. Мстислав удовлетворился тем, что выгнал Олега из ростовско-суздальской земли, которая никогда не была уделом ни Олега, ни его отца; предложил Олегу мир и предоставлял ему снестись со своим отцом.
Мстислава располагало к уступчивости то, что Олег был его крестным отцом. Олег притворно согласился, а сам думал внезапно напасть на своего крестника; но новгородцы узнали об его намерении заблаговременно и вместе с ростовцами и белозерцами приготовились к бою. Враги встретились друг с другом на реке Колакше в 1096 году. Олег увидел у противников распущенное знамя Владимира Мономаха, подумал, что сам Владимир Мономах пришел с большою силою на помощь сыну, и убежал. Мстислав с новгородцами и ростовцами пошел по его следам, взял Муром и Рязань, мирно обошелся с муромцами и рязанцами, освободил людей ростовско-суздальской области, которых Олег держал в городах Муроме и Рязани пленниками; после того Мстислав послал к своему сопернику такое слово: "Не бегай более, пошли с мольбой к своей братьи; они тебя не лишат русской земли". Олег обещал сделать так, как предлагал ему победитель.
Мономах дружелюбно обошелся со своим соперником, и памятником тогдашних отношений его к Олегу осталось современное письмо его к Олегу, очень любопытное не только потому, что оно во многом объясняет личность князя Владимира Мономаха, но и потому, что вообще оно составляет один из немногих образчиков тогдашнего способа выражения: "Меня, - пишет он, принудил написать к тебе сын мой, которого ты крестил и который теперь недалеко от тебя: он прислал ко мне мужа своего и грамоту и говорит так: сладимся и примиримся, а братцу моему суд пришел; не будем ему мстителями; возложим все на Бога; пусть они станут пред Богом, мы же русской земли не погубим. Я послушался и написал; примешь ли ты мое писание с добром или с поруганием, - покажет ответ твой. Отчего, когда убили мое и твое дитя перед тобою, увидавши кровь его и тело его, увянувшее подобно едва распустившемуся цветку, отчего, стоя над ним, не вник ты в помыслы души своей и не сказал: зачем это я сделал? Зачем ради кривды этого мечтательного света причинил себе грех, а отцу и матери слезы? Тебе было бы тогда покаяться Богу, а ко мне написать утешительное письмо и прислать сноху мою ко мне... она тебе не сделала ни добра, ни зла; я бы с нею оплакал мужа ее и свадьбу их вместо свадебных песен. Я не видел прежде их радости, ни их венчания; отпусти ее как можно скорее, я поплачу с нею заодно и посажу на месте, как грустную горлицу на сухом дереве, а сам утешусь о Боге. Так было и при отцах наших. Суд пришел ему от Бога, а не от тебя! Если бы ты, взявши Муром, не трогал Ростова, а прислал бы ко мне, мы бы уладились; рассуди сам, тебе ли следовало послать ко мне или мне к тебе? Если пришлешь ко мне посла или попа и грамоту свою напишешь с правдою, то и волость свою возьмешь, и сердце наше обратится к тебе, и будем жить лучше, чем прежде; я тебе не враг, не мститель".
Тогда, наконец, состоялось то, что долго замышлялось и никак не могло прийти к исполнению. В городе Любече съехались князья Святославичи - Олег, Давид и Ярослав, киевский Святополк, Владимир Мономах, волынский князь Давид Игоревич и червонорусские князья Ростиславичи: Володарь и Василько. С ними были их дружинники и люди их земель. Цель их совещания была устроить и принять меры к охране русских земель от половцев. Всем делом заправлял Мономах.
"Зачем губим мы русскую землю, - говорили тогда князья, - зачем враждуем между собою? Половцы разоряют землю; они радуются тому, что мы друг с другом воюем.
Пусть же с этих пор будет у всех нас единое сердце; соблюдем свою отчину".
На этом съезде князья решили, чтобы все они владели своими волостями: Святополк Киевом, Владимир уделом отца своего Всеволода: Переяславлем, Суздалем и Ростовом; Олег, Давид и Ярослав - уделом Святослава, отца их: северскою землею и рязанскою; Давид Игоревич - Волынью, а Василько и Володарь городами: Теребовлем и Перемышлем с их землями, составлявшими тот край, который впоследствии назовется Галичиною. Все целовали крест на том, что если кто-нибудь из князей нападет на другого, то все должны будут ополчиться на зачинщика междоусобия. "Да будет на того крест честный и вся земля русская". Такой приговор произнесли они в то время.
До сих пор Владимир находился в самых приятельских отношениях к Святополку киевскому. Последний был человек ограниченного ума и слабого характера и подчинялся Владимиру, как вообще люди его свойств подчиняются лицам, более их сильным волей и более их умным. Но известно, что такие люди склонны подозревать тех, которым они невольно повинуются. Они им покорны, но в душе ненавидят их.