Із полковників, які підтримали Мазепу, миргородський полковник Данило Павлович Апостол і компанійський полковник Ігнатій Галаган відкинулися від шведів у кінці листопада. Апостол перебував віддавна в неприязних стосунках з Мазепою; перед зрадою він, як видно, помирився з гетьманом, разом з ним перейшов до шведів, а тепер з'явився до царя Петра з усною пропозицією від Мазепи прислужитися цареві, користаючись своїм теперішнім становищем. Судячи з відповіді Головкіна, яка збереглася, Апостол від Мазепи привіз навіть пропозицію відносно доставки в російські руки «відомої, найголовнішої особи», очевидно маючи на увазі Карла XII. Невідомо, чи справді посилав Мазепа таку пропозицію; можливо, Апостол і сам вигадав це. Слідом за Апостолом і Галаган з'явився з такою ж словесною пропозицією. Його представили особисто Петрові в Лебедині, куди було перенесено головну квартиру. «Як, і ти з Мазепою зрадив мене й утік?» – запитав його Петро. «Я не втікав, – відповів Галаган, – але винен у тому, що дозволив Мазепі обдурити себе. Я за наказом йшов із своїм полком, думаючи, що веду його проти неприятеля, і вже побачивши неприятельське військо, дізнався, куди мене ведуть. Мене примусили присягнути на вірну службу шведському королю, але присяга була невільною, лише на словах: як тільки неприятель перестав наглядати за нами, так я і втік служити своєму володареві! Твоя воля; прости і дозволь умерти на твоїй службі». – «Прощаю, – сказав Петро, – гляди тільки, не зроби зі мною такого жарту, як з Карлом».
Малоруський народ рішуче не підтримав гетьманового заміру і зовсім не співчував йому. За Мазепою перейшли до неприятелів лише старшини, але й з них багато хто втік від нього, тільки-но дізналися, що надія на шведського короля слабка і що Карл, якби навіть і хотів, не зміг би надати Малоросії незалежність. Так само 1709 року втекли від Мазепи: генеральний суддя Чуйкевич, генеральний осавул Дмитро Максимович, лубенський полковник Зеленський, Кожуховський, Андріяш, Покотило, Гамалія, Невінчаний, Лизогуб, Григорович, Сулима. Хоча вони з'явилися вже після строку, що його призначив Петро для амністії, і ясно було, що відвернулися від шведського короля лише тоді, коли побачили, що справа його програється, однак Петро їх не засудив до страти, замінивши її засланням до Сибіру. Зате Петро згадав про Палія і звелів його привезти із Сибіру. Палій брав участь у Полтавській битві, хоча старість і тяжке заслання зробили його настільки немічним, що він без сторонньої допомоги не міг сідати на коня. Випала милість удові й дітям страченого Кочубея. 15 грудня 1708 року новий гетьман Іван Скоропадський наказав повернути вдові Кочубеєвій Любові, уродженій Жук, і дітям її всі села в полках Полтавському, Ніжинському й Стародубському й один хутір на правому боці Дніпра, які належали покійному генеральному судді (Удові й дітям Іскри не випало тоді ніякої милості: про нього начеб забули. Століттям пізніше нащадки Іскри ремствували на уряд, який щедро винагородив самого лише Кочубея і залишив без уваги іншу особу, яка однаково з Кочубеєм постраждала за вірність цареві.). Мазепі було не вельми добре у шведського короля: малоруси, замість того, щоб зустрічати шведів як визволителів од московської неволі, на кожному кроці чинили їм опір; не лише козаки, які складали військову верству, а й посполиті люди збиралися ватагами, нападали на шведські загони, ловили й передавали цареві посланців, які їздили краєм з підбурювальними закликами Карла XII й Мазепи. Шведи ставили це на карб Мазепі, починали запідозрювати, що й сам гетьман при нагоді втече від них і спробує одержати царське прощення. Мазепу утримували так начебто під непомітною для нього самого вартою, в той час як малоруси, яких він втягнув, один за одним ізслизали з шведського табору. Лише запорожці складали виняток; вони прибули до Карла числом. 3000 під орудою свого кошового Костя Гордієнка і одразу ж вразили шведів своїм буйством і дикістю: коли першого разу їх запросили до Мазепиного намету, на обід, то вони напилися до нестями і почали тягти зі столу посуд. Хтось зауважив їм, що не годиться так грабувати. Запорожці за це зауваження тієї ж хвилини зарізали необережного повчальника.
Мало користі відчували для себе шведи від переходу на їх бік Мазепи. Всю зиму й весну, перебуваючи в Малоросії, вони зазнали ряду невдач; лише містечко Веприк і місто Ромни вдалося їм захопити, та й то з великими втратами. Сталася знаменита Полтавська битва. Карл утік, з ним утік Мазепа. Вони опинилися в турецьких володіннях. Петрові дуже хотілося дістати зрадника у свої руки, і він був у досаді, коли на переправі через Дніпро біля Перевалочної не вдалося російському війську захопити Мазепу. Бажання скарати свого ворога було у Петра таке велике, що, всупереч своїй звичній ощадливості, цар пропонував турецькому великому муфтієві 300 000 талярів, якщо він силою свого духовного значення переконає султана видати зрадника. Спроба Петра не вдалася і навряд чи могла вдатися, оскільки і в своєму вигнанні Мазепа був ще багатий. За весь час свого гетьманства, щедро будуючи і прикрашаючи церкви, він встиг зібрати великі скарби: з того багато що зберігалося у Києво-Печерському монастирі та в Білій Церкві і дісталося цареві; Петро спонукав усіх малорусів відшукувати ще і повідомляти урядові про всякі гетьманові статки, обіцяючи виказувачеві половину виявленого ним майна, яке належало зрадникові. І все-таки Мазепа встиг захопити із собою величезні, як на той час, грошові суми. Він мав спромогу вже у своєму вигнанні надати Карлові XII в позичку 240 000 талярів, а після смерті Мазепи, як кажуть, знайдено було при ньому 160 000 червінців, опріч срібного посуду й різних прикрас.
Мазепа помер 22 серпня 1709 року від старечого виснаження у селі Варниці поблизу Бендер. Його тіло, відспіване у сільській церкві в присутності шведського короля, було відвезене й поховане в старовинному монастирі св. Георгія, розташованому на березі Дунаю, поблизу Галаца (Уламки каменя, який лежав на його могилі, з написом і зображенням одноголового орла, збереглися досі у музеї Михайла Гики, брата колишнього валаського господаря), потім перевезене до Ясс.
Мазепа, як історична постать, у багатьох відношеннях становить визначний, такий, що вирізняється на загальному тлі, тип свого часу і того суспільства, в якому він виховався і діяв політично. Прекрасна характеристика його, яку дав сучасник архієпископ Феофан Прокопович, і багато рис, які виявилися в різноманітних випадках його життя, дають нам змогу до певної міри зрозуміти, що це була за людина. Навряд чи ми помилимося, якщо скажемо, що це була людина надзвичайно брехлива. Під зовнішнім виразом правдивості він був здатний поставати не тим, чим він був насправді, не лише в очах людей простодушних і піддатливих на обман, а й перед найбільш проникливими. Цими якостями він зумів завести в оману Петра Великого і впродовж багатьох років змусив визнавати себе за людину найбільш віддану російському престолові і російській державі. Мазепа носив постійно на собі відбиток того щиросердя, яке притаманне характерові й поведінці малоросів, виявляв завше відразу до хитрості й підступності, часто відзначався добродушною веселістю, всіх любив пригощати і здавалося, начебто у нього усе серце навстіж; усім тим він схиляв до відвертості своїх гостей і приятелів і випитував у них все, що йому було потрібно. Він був дуже щедрим до кожного, з ким мав справу, але в той же час не гребував ніякими засобами й шляхами для надбання собі багатств, які так само легко розтрачав, як безцеремонно збирав: одних обібрати, інших наділити – це було його рисою, характерною більш чи менш для польських панів. Він був надзвичайно побожний, надавав благодійницьку поміч церквам, дбав про духовенство, роздавав милостиню; значна частина першокласних церков у Києві та в.інших місцевостях Малоросії мусить донині поминати серед дбайливих благодійників Мазепу, хоча й не сміючи вимовляти його затаврованого анафемою імені. Навряд чи можна погодитися з тими, хто в подальшому твердив, нібито Мазепа робив це для того, щоб приховати свою прихильність до католицтва; в його православності нема підстав сумніватися: але його релігійність, обмежуючись зовнішніми подвигами благочестя, носила на собі відбиток тієї ж внутрішньої олжі, котра помітна в усіх вчинках Мазепи: з такими рисами він постає й у своїй трагікомедії з Фальбовським, і в стосунках із Самойловичем, і в справі з Палієм, і в справі з Кочубеєм та його дочкою, і в догідливості Голицину, й у взаєминах з Петром, й у своїх вчинках, які передували його зраді. Мазепа часто прикидався хворобливим, часто радився з лікарями, часто лежав у постілі по декілька днів, весь обкладений припарками, тяжко стогнав і охкав; навіть говорив, що наказує робити собі труну, й інші, дивлячись на нього, були в той час упевнені, що не сьогодні – завтра гетьман помре, тоді як насправді гетьман був здоровий. Перед царем, вихваляючи свою вірність, він набріхував на малоруський народ і особливо чорнив запорожців, радив викорінити і розорити дотла Запорізьку Січ, а в той же час перед малорусами охкав і скаржився на суворі московські порядки, двозначно лякав їх небезпекою чогось фатального, а запорожцям повідомляв таємними шляхами, що цар їх ненавидить і вже б викорінив їх, якби гетьман не стояв за них і не погамовував царського гніву. Його перехід на шведський бік, за всіма міркуваннями, навряд чи можна визнати наслідком давнього наміру, чи, як дехто пояснював – особистої прив'язаності до Польщі і таємного наміру підвести малоруський народ під польську владу. Мазепа за вихованням і моральними поняттями був поляком цілковитим, але чи він був відданий політичним замірам Польщі, щоб заради них бути готовим жертвувати своєю батьківщиною, на це нема ніяких доказів, а навпаки, все засвідчує, що Мазепа як малорус жив і плекав у собі прагнення політичної незалежності своєї вітчизни, і і це найбільш переконливо проявляється в тій думі, яку Кочубей подав як свідчення неблагонамірених почувань Мазепи. У цьому прагненні Мазепа не різнився від інших гетьманів, ні від своїх сучасників, наскільки їх хвилювали політичні обставини. Мазепа побачив можливість здійснити давнє заповітне бажання і вхопився за неї. Багато що могло подавати йому надію, що не Петро над Карлом, а Карл над Петром одержить гору в довготривалій боротьбі, яку вели між собою два владарі. Мазепі здавалося, що на той час сама доля подарувала Малоросії такий випадок, якого не легко і не скоро можна було дочекатися. Володіння шведського короля були далеко від Малоросії, і Карл XII, маючи привід задля власної вигоди старатися визволити Малоросію від Росії й утворити з неї незалежну державу, не міг, якби й хотів, поширювати на неї честолюбні заміри; приєднати ж Малоросію до Польщі для шведського короля було не лише не вигідно, а й небезпечно, після того як попередники Карла вимушені були вести війну з Польщею і старалися знесилити Річ Посполиту відняттям у неї областей. Багато що, таким чином, спонукало Мазепу в критичних обставинах боротьби між двома сусідами Малоросії пристати до Карла XII. Але Мазепа погано врахував як спроможності Петра, якому він ставав суперником, так ще в більшій мірі прихильність підлеглих йому малорусів. Він не звернув належної уваги на давню ворожнечу, яка існувала в Малоросії між значними і поспільством, між усілякого роду старшиною, як генеральною, так і полковою, і простими козаками, між поміщиками й робітним людом, між козацтвом і всім тим, що залишалося поза козацтвом і шукало рівних й однакових прав для всіх туземних помешканців краю, одним словом, – між усім, що вивищувалося над рівнем маси, і всією рештою маси народу. Все, що виходило від перших, неодмінно зустрічало собі протидію в народній масі; через те в той час, коли люди, здатні до політичних задумів, готові були хапатися за будь-який засіб, щоб визволитися з-під влади російського уряду над Малоросією, – вся маса малорусів ладна була триматися російського уряду вже тому, що ворожа їй партія хотіла позбавитися влади цього уряду. Малоруські політики, виховані в дусі польської культури, не могли захопити народ ніякою ідеєю політичної незалежності, оскільки у народу склалися свої власні соціальні ідеали, які ніяк не в'язалися з тим, що могли дати народові люди з польськими поглядами. Якщо ці політики і не мали наміру повертати Малоросію в рабство польських панів, а мріяли про незалежну малоросійську державу, то все-таки ця держава, створена ними під впливом усталених в їхній уяві поглядів, була б у суті своїй подобою польській Речі Посполитій. Не бажаючи віддавати Малоросію Польщі, вони мимоволі зробили б з неї другу Польщу, а цього народ малоруський не бажав, хоча б і за умови якої завгодно політичної незалежності.