Халид выступил в направлении Хиры и обратился к персидскому наместнику Хани ибн Кубайде ат-Таи с предложением либо принять Ислам, либо выплачивать джизью. В противном случае он угрожал напасть на его войска. Персы не стали вступать в сражение с мусульманами и предпочли выплатить джизью в достаточно большом размере. В то же время аль-Мусанна время от времени вел бои против персидского военачальника Хурмузана. В местности Убилла силы Халида и Аль-Мусанны объединились и составили около 18000 человек. Помимо этих сил, Абу Бакр отправил сюда отряды под командованием Ади ибн Хатима и Асима ибн Амра ат-Тамими. Халид приказал им прибыть в местность Хайфар. Вскоре и они соединились с основными силами. После этого мусульманские войска встретились в Убилле с персидскими войсками под командованием Хурмузана. Сражение окончилось разгромом персов, а сам Хурмузан погиб. Это сражение получило название Затус-Саласил («Цепная битва»), так как перед сражением персы обвязали себя цепями, чтобы не допустить бегства с поля боя. Халид приказал Мукилу ибн Мукаррину собрать трофеи, а аль-Мусанне велел преследовать разгромленного противника. Аль-Мусанна преследовал бежавших персов, настиг и перебил их.

В то же время сасанидский шах Ардашир отправил против мусульманских войск большую армию, состоящую из 30000 бойцов, под командованием Карина, сына Карьяноса. Они достигли месности Мезар, где до них дошла весть о гибели армии Хормузана. Халид ибн аль-Валид перешел в наступление против них. В разгоревшемся сражении персы вновь были разгромлены, а их командиры Карин, Эношиджан и Кубаз были убиты. Мусульманам достались богатые трофеи.

Персы решили взять реванш за свои поражения. Одна часть персидских войск, выступила в местность Севад, а другая сконцентрировалась близ Кескера. Вскоре к ним на помощь пришли войска под командованием Эндерзы и Бахрама Джазавайха. Халид ибн аль-Валид атаковал их, и персы вновь потерпели тяжелое поражение.

Арабы-христиане, бывшие подданными Персидской империи, были обеспокоены этой чередой поражений персидской армии и решили оказать им поддержку. Узнав об этом, Халид сразился с ними и разгромил их. Затем Халид вернулся в Хиру. Там он оставил Кааку ибн Амра, а сам отправился на помощь Айаду ибн Ганаму, который ранее двинулся на север Ирака. Он вошел вначале в Феллуджу, а затем в Кербелу. Там он оставил Асима ибн Амра, а сам продолжил путь в направлении Анбара. Город был взят, и Халид оставил в нем Забиркана ибн Бадра. Затем он двинулся в область Айнут-Тарир, население которой состояло как из арабов, так и неарабов. Халид завоевал ее и оставил там Увайма ибн аль-Кахила. Затем он выступил на помощь Айаду ибн Ганаму, который в это время находился в местности Дауматуль-Джандал. Когда ее жители узнали, что Халид движется на них, они запросили помощи у Гассанидов, а также у кальбитов и других арабских племен, бывших подданными Византийской империи. Однако в решающий момент они не сумели прийти к согласию, и Халиду удалось разгромить их. После этого он вернулся в Хиру. Аль-Мусанна же в это время продолжал военную операцию против персов в районе реки Тигр.

Оставив в Хире Аль-Акру ибн Хабиса, Халид выступил в направлении местности Айн. Отсюда Халид отправил Абу Лейлу в Ханафис, а Кааку — в Хусайн. Добившись там успеха, мусульмане выступили в Сену и Мусейл. Разгромив противника и там, они направились в Ар-Радаб, который также был завоеван. После этих побед в месяце Рамадан Халид двинулся в направлении Фарада, который ныне находится между Сирией и Ираком. Здесь персы объединились с византийцами. В сражении как персы и византийцы, так и мусульмане понесли большие потери, и Халид вернулся в Хиру.

После этих событий Абу Бакр отозвал Халида из Ирака и назначил его командующим войск в Сирии.

Когда Халид ибн Саид вернулся в Медину из Йемена, халиф Абу Бакр послал его в Тейму. Прибыв туда, он начал мобилизацию мусульман в армию. Обеспокоенные этим византийцы подняли против них своих арабских подданных гассанидов, кальбитов, танухитов, лахмитов и джузамитов. Халид ибн Саид поставил об этом в известность Абу Бакра, который приказал ему выступить против них. Мусульмане перешел в наступление. Увидев их войска, противник бежал. Освобожденная территория была захвачена армией Халифата. Однако развивать успех и продолжать наступление Халид ибн Саид не стал, так как получил приказ Абу Бакра о том, чтобы он дождался подкреплений.

Когда к нему на помощь пришли отряды под командованием Валида ибн Утбы и Икримы ибн Абу Джахля, они вступили в бой с византийскими войсками и разгромили их. Их командующий бежал в Дамаск, где он собрал силы и вновь выступил против преследующего его Халида ибн Саида, который, увидев явное превосходство сил противника, решил отступить.

В 10 году хиджры халиф Абу Бакр послал в район боевых действий новые подкрепления. Первым командиром, начавшим широкомасштабное наступление на Шам был Йазид ибн Абу Суфьян, который возглавлял семитысячную армию. В этой армии находился и Сухайл ибн Амр. После этого Абу Бакр послал туда и Муавию ибн Абу Суфьяна, который вошел в область Зуль-Марва и соединился с находившимися там войсками Халида ибн Саида. Сам Халид после этого был отозван обратно в Медину. Вторым командующим, посланным в этот регион, был Амр ибн аль-Ас. Он выступил в направлении Палестины. В Иорданию двинулся Шурахбил ибн Хасана, а в Хомс — Абу Убайда Амир ибн аль-Джаррах.

Узнав об этом, византийский император Ираклий срочно прибыл в Хомс и оттуда начал отправку на фронт своих войск. Общая численность византийских войск составила около 240 тысяч человек, в то время как мусульмане выставили против них всего около 20 тысяч бойцов, не считая шеститысячного отряда Икримы, который поддерживал их с тыла.

Опасаясь столкновения с многократно превосходящим их противником, командиры мусульманской армии пришли на совет к опытному Амру ибн аль-Асу, который счел нецелесообразным ведение боевых действий одновременно на нескольких направлениях. Он предложил соединить все силы и выразил уверенность, что в этом случае мусульмане сумеют противостоять византийской армии. Все собравшиеся согласились с этим и решили объединиться в местности возле реки удобна для них со стратегической точки зрения. Обо всем этом они известили халифа Абу Бакра. К себе на помощь они позвали девятитысячную армию под командованием Халида ибн аль-Валида, который тогда еще находился в Ираке. Халид срочно выступил из Ирака. Ему пытались помешать Гассаниды, но ему удалось с боями прорваться к Ярмуку.

Таким образом, мусульмане собрали перед решающим сражением 36-тысячную армию, которую возглавил Халид ибн аль-Валид. Среди воинов находилось более тысячи сподвижников Пророка и около ста участников битвы при Бадре.

Когда сражение уже началось, из Медины пришло известие о смерти халифа Абу Бакра, которого сменил Умар. Новый халиф распорядился сменить командующего армией в битве при Ярмуке. Вместо Халида ибн аль-Валида объединенную армию возглавил Абу Убайда.

В момент разгара битвы при Ярмуке Абу Бакр тяжело заболел. Чувствуя приближение смерти, он обратился к ближайшим сподвижникам Пророка Мухаммада с предложением выбрать себе нового руководителя. Однако они так и не выдвинули ничьей кандидатуры и предложили Абу Бакру самому выбрать своего преемника. Тогда халиф попросил немного времени на раздумье и посоветовался с Абдуррахманом ибн Ауфом, Усманом, Саидом ибн Зайдом, Али ибн Абу Талибом и другими авторитетными людьми относительно кандидатуры Умара ибн аль-Хаттаба. Подавляющее большинство поддержало это предложение. Некоторые немногочисленные противники кандидатуры Умара считали, что он не должен руководить государством по причине его чрезмерной суровости.