Так чи інакше, але внаслідок якихось точно не відомих нам подій у 1663 році молодий Іван Мазепа залишає королівський двір і їде до Мазепинців, де допомагає вже старенькому батькові. У 1665-му, після смерті Степана-Адама, Іван Степанович навіть дістав титул чернігівського підчашого. Остаточно контакти Мазепи з польським двором перервалися, як слушно вважає Олександр Оглоблін, після смерті королеви Марії-Людвіки (1667 рік) та зречення короля Яна-Казимира (1668 рік).
У 1669 році в житті Івана Мазепи настав переломний момент – він пов’язав свою подальшу кар’єру з діяльністю видатного українського політика, блискучого полководця гетьмана Петра Дорошенка. У 1669 році зоря Дорошенка («Сонця доби Руїни») все ще стояла в зеніті, і сподівання щодо об’єднання України ще не потонули в морі сліз і крові. Спочатку молодий, блискучий шляхтич був ротмістром гетьманської надвірної корогви, згодом, у 70-ті роки XVII століття, став генеральним осавулом. Молодому старшині не раз і не двічі довелося брати участь у боях: так, у 1672 році у складі війська Дорошенка – у війні проти Польщі (в союзі з Туреччиною). Проте ненадійність турецьких і татарських союзників Дорошенка була очевидною – татари, офіційно визнаючи останнього гетьманом, підтримували власного кандидата на булаву, П. Суховія. Крім того, між союзниками траплялися й «непорозуміння», викликані намаганням татар захопити здобич. Того ж року Іван Мазепа на чолі невеликого загону сердюків боронив Крехівський монастир від татарсько-турецького загону, «и сам… з ручницы много трупом турков положил», як пише про ці події Чернігівський літопис. Очевидно, батьківські уроки володіння шаблею та влучної стрільби не минули для нашого героя даремно.
Десь у 1668—1669 роках в особистому житті Івана Мазепи теж сталася значна зміна – він одружився з трохи старшою за себе вдовою білоцерківського полковника Самійла Фридрикевича – Ганною (з відомого роду Половців). Покійний Фридрикевич був близьким приятелем Дорошенка, і одруження з його вдовою означало, що Іван Мазепа потрапляв до вузького кола найближчих до гетьмана осіб.
Як це не дивно, ми дуже мало знаємо про те, чи були у Івана Мазепи діти. За одними даними, у подружжя народилася донька Варвара та син Іван, які померли в ранньому дитинстві. Принаймні про доньку гетьмана в 1704 році писав гамбурзький тижневик «Historische Remarks» (не слід недооцінювати обізнаності тогочасної європейської преси в українських справах!).
Кар’єру Івана Мазепи в Чигирині обірвав Його Величність Випадок (а не якась «патологічна схильність Мазепи до зміни покровителів», як це нерідко твердять деякі публіцисти). У червні 1674 року Мазепа очолив загін татар та козаків Дорошенка, які мали відвезти до Криму листи та п’ятнадцятьох полонених українців з Лівобережжя у дарунок ханові. Такою була жорстока політична реальність тих часів – український гетьман платив кримському ханові за допомогу українськими ж рабами. Проте ні полоненим, ні Мазепі не судилося дістатися Криму. Десь поблизу річки Інгул 11 червня загін потрапив у засідку, влаштовану запорожцями – тогочасний кошовий отаман, славнозвісний Іван Сірко, виступав проти українсько-турецького союзу, завдаючи дошкульних ударів по Кримському ханству і руйнуючи плани Дорошенка. Розлютовані запорожці, схоже, не церемонилися з татарами та людьми Дорошенка, але Мазепу залишили живим – за легендою, переказаною літописцем Самійлом Величком, Івана Степановича врятував особисто Сірко, нібито зауваживши, що ця людина ще знадобиться Україні. Таке «пророцтво» здається дуже схожим на пізнішу легенду, але фактом є те, що Сірко не хотів віддавати Мазепу (таланти якого, вочевидь, оцінив) гетьманові Самойловичу. Той, дізнавшись, що генеральний осавул Дорошенка потрапив у полон до запорожців, вимагав його видачі. Лише дипломатичний тиск Москви, з якою Січ в даний момент не бажала псувати відносини, змусив Сірка відправити свого бранця до Батурина – столиці лівобережних гетьманів. Сталося це в липні 1674 року.
Опинившись у новій, спочатку навіть загрозливій обстановці, Мазепа зумів швидко зорієнтуватися. Йому вдалося здобути довіру Самойловича, взагалі не дуже схильного комусь довіряти (так, він підозрював власного сина Григорія у намірах відібрати гетьманську булаву). Але Мазепу (його дружина Ганна була далекою родичкою гетьманової племінниці Марії Самойлович через Горленків) Самойлович невдовзі робить «гетьманським дворянином», а згодом генеральним осавулом.
Мазепа як генеральний військовий осавул бере участь у Чигиринських походах козацького війська 1677 та 1678 років, коли об’єднані армії Самойловича та російського боярина Г. Ромодановського боронили Чигирин від турецької навали, веде переговори в Москві про статус Слобожанщини (відбувалися вони наприкінці 1680 – у 1681 році), але російський уряд категорично відмовився передати слобідські полки під контроль гетьмана Лівобережної України, залишивши їх у прямій залежності від бєлгородського воєводи. У січні 1686 року Мазепа разом із сином Івана Самойловича Григорієм передає російському уряду українські застереження і побажання у зв’язку з горезвісним «Вічним миром» Росії та Польщі (який став черговим порушенням Росією Березневих статей Б. Хмельницького – адже в них йшлося про відвоювання у поляків усієї козацької України, Вічний же мир фіксував поділ України між Москвою та Варшавою по Дніпру та передбачав російсько-польський союз проти Туреччини). У Івана Степановича з’являються зв’язки у колах російської знаті. Так, він знайомиться з фаворитом цариці-регентки Софії – князем Василем Голіциним.
Слід зауважити, що в цей період свого життя Іван Мазепа, крім дипломатичних місій до Москви, бере участь і в суто українських справах – наприклад, у виборах Київського митрополита. З небагатого «гетьманського дворянина» Іван Степанович поступово стає на Лівобережжі поважною людиною зі значними маєтностями.
У цілому ж цей період у житті Івана Мазепи був своєрідною підготовкою, «школою політичного життя», часом формування «володаря України». Ця справді незвичайна людина мала особливий талант приваблювати до себе надзвичайно різних особистостей, могла говорити з кожним його мовою, як захоплено відзначав український дослідник-емігрант Ілько Борщак. «Ніхто бо, – писав Пилип Орлик в одному зі своїх листів, – не міг краще обробити людину, привабити її до себе. Не осягнувши з першого разу своєї мети, він не складав зброї, не кидав обробляти людину, аж доки не робив своєю». Освічений, розумний і ерудований, зі знанням мов, тактовний і спритний, Іван Мазепа, на думку його англійського біографа Кларенса Меннінґа, був справжнім «gentleman of the Renaissance», людиною, схожою на багатогранних політиків-аристократів доби Ренесансу. При всіх свої блискучих, сильних рисах такий зразок мав і слабкі сторони – наприклад, схильність до авторитарності.
Але роки до початку гетьманування були не лише часом становлення Івана Мазепи як особистості, безперечно яскравої, але й тим періодом, коли почало формуватися його бачення української політики, як внутрішньої, так і зовнішньої. Навряд чи мають рацію ті надпатріотичні українські історики, які твердять, що Мазепа буквально «з дитинства мріяв про сильну самостійну соборну Українську державу». Так само помилкою було б вважати його «прихильником устрою шляхетської Польщі» (відомий вислів радянських вчених). Недаремно ж у розмові з Жаном Балюзом, сином приятеля Мазепи Антуана Балюза (тобто у відносно невимушеній обстановці), гетьман говорив, що Річ Посполита, подібно до Давнього Риму, хилиться до занепаду… Поки що мова йшла про дотримання статус-кво – Гетьманщина була васалом Росії.
Наскільки міцно тримали українці в руках шаблі, показала чергова війна: після «Вічного миру» Росія, Українська козацька держава та Річ Посполита увійшли до грандіозної антитурецької коаліції (Священної Ліги). В рамках коаліції росіяни та українці мали здійснити великий сухопутний похід на Кримське ханство. Цей Перший Кримський похід 150-тисячної об’єднаної армії В. Голіцина та І. Самойловича, широко розрекламований ще до його початку, завершився нічим – влітку 1687 року українсько-російські війська, зазнавши великих втрат від спраги, хвороб та бойових дій, повернулися ні з чим, навіть не діставшись Перекопу. Причинами цього були невдало обраний час та стратегія походу, а також обмежені військові таланти головнокомандувача – князя Василя Голіцина. Аби якось підсолодити гіркоту поразки, закохана у князя Василя регентка – царівна Софія – навіть надіслала привітання зі щасливим поверненням додому. Але Голіцин шукав цапа-відбувайла за бездарно проведений похід. Ідеальною фігурою на таку роль став український гетьман Іван Самойлович, який ще до початку та під час походу нарікав на дії князя та російських воєвод.