В течение нескольких лет в его доме проживал младший брат, Хусто Руфино, полковник испанской армии, переживавший трудные времена (три других его брата к тому времени умерли; пятый прожил до 1851 года). Но Сан-Мартин чувствовал себя одиноким и несчастным, зачастую унылые ноты появлялись в его письмах к друзьям:

А еще он жаловался на холода:

Сан-Мартин вел скромную жизнь с братом и дочерью. Старые товарищи еще писали ему, призывая вернуться и навести порядок то в Аргентине, то в Перу. Его бывший адъютант полковник Гидо искушал: «Я вижу войну с Бразилией как новый театр действий, сулящий славу для новых подвигов генерала Сан-Мартина». Поначалу Сан-Мартин сопротивлялся и не поддавался соблазну, но после падения его врага Ривадавии он вновь ощутил неудержимый зов судьбы. Ему было всего пятьдесят. В конце 1828 года в сопровождении всего одного слуги, используя чужое имя Хосе Маторрас (девичья фамилия его матери), он поднялся на борт корабля в Фалмуте и отправился в дальний путь. Его цель — помочь своей родине в войне с Бразилией за полосу земли на северной стороне устья Параны — Восточный Берег. Путешествие заняло семьдесят пять дней, причем корабль едва не потерпел крушение во время жестокого шторма недалеко от Ла-Платы.

Сан-Мартин добрался до Буэнос-Айреса 6 февраля 1829 года и был встречен известием, что Восточный Берег стал независимой страной под названием Уругвай и находится под покровительством Британии, а его вождь, воинственный гаучо Артигас, свергнут. Сан-Мартин опоздал. Тем не менее, когда его корабль бросил якорь, старые друзья стали уверять его, что именно он должен спасти Аргентину от хаоса и гражданской войны, которая истощала страну. Но правительство не предложило ему сойти на берег и не выдало паспорта. После недельного ожидания на борту он объявил о намерении уехать отсюда. Двое бывших его подчиненных приехали повидаться с ним — Альварес Кондарка, инженер, построивший мельницы для производства пороха перед походом через Анды, и полковник Оласабаль, так описавший его: «Сан-Мартин был в домашних туфлях и сюртуке из дешевого материала, доходившем ему до лодыжек. Он поседел и погрузнел, но в его глазах еще оставался магнетический блеск, а сам он сохранял воинственную осанку тех дней, когда вел свои легионы к победе». Правительство отрицало, что не позволило ему высадиться на берег. Но официальный прием был не вполне доброжелательным, а может, добавились знаменитая осторожность Сан-Мартина и умение чутко улавливать настроения.

13 февраля, пересев на другой корабль, он все же отправился в Монтевидео. В Уругвае провел почти два месяца, ожидая вестей от своих сторонников по ту сторону дельты Ла-Платы. Когда же этот призыв пришел, оказалось, что его зовет молодой вождь, на время захвативший власть, — Хуан Лавалье. Сан-Мартину было предложено возглавить армию. Однако старый генерал не пожелал, чтобы его использовали для придания видимой законности власти узурпатора, не хотел он и участвовать в гражданской войне, в которой могли погибнуть тысячи аргентинцев. 23 апреля он отправился в Европу, отказавшись в последний раз от роли, которую ему больше никогда не предложат в Латинской Америке.

Его решение было принято после многих колебаний, и почти наверняка оно было единственно верным. Но это означало, что его путешествие было совершено зря. К тому же его продолжали преследовать дорожные несчастья: по возвращении в Брюссель Сан-Мартин мрачно пишет О’Хиггинсу: «Как гласит старая пословица, „Беда никогда не приходит одна“. На обратном пути из Америки, где-то между Фалмутом и Лондоном, мой экипаж перевернулся, и осколок разбитого окошка экипажа глубоко порезал мне левую руку. Но, дабы избежать ненужных сплетен в газетах, я тщательно сохранял инкогнито».

В 1831 году, когда умер его великий соперник Боливар, Сан-Мартин переехал в большой дом с тремя спальнями в пригороде Парижа. Там он случайно встретил своего старого друга Алехандро Агуадо, который служил с ним в одном полку в Мурсии, а впоследствии невероятно разбогател. Агуадо купил двухэтажный дом с большим садом «Гран-Бург» для отошедшего от дел Сан-Мартина — и это оказалось просто подарком судьбы для изгнанника и его дочери.

Именно тогда Сан-Мартина посетил известный аргентинский генерал Балькарсе. Мариано Балькарсе влюбился в Мерседес. В 1832 году они поженились и уехали в Буэнос-Айрес. Сан-Мартин был вполне доволен своей новой жизнью, уехав с ними. Брат Мариано несколько лет спустя после замужества Мерседес написал о том, как жил Сан-Мартин в то время: «Генерал полной мерой наслаждается одинокой и мирной жизнью. Однажды я застал его за занятием оружейника — он чистил свои ружья и пистолеты. На другой день он уже работает плотником, заполняя каждую минуту своего времени занятием, отвлекающим от разных мыслей и поддерживающим его в хорошей форме… Мерседес целыми днями сражается с малышами, ставшими совершенными проказниками и сорванцами». Агуадо умер в 1843 году во время поездки в Испанию, и Сан-Мартин был назначен его душеприказчиком и опекуном его детей. Агуадо заранее оформил необходимые бумаги, чтобы генерал оставался владельцем парижского дома. После десятка лет нужды Сан-Мартин жил в полном комфорте. Он совершил путешествие за границу — в Рим и Неаполь, в результате у него появилось новое увлечение — живопись. Посетивший его в тот период жизни — Сан-Мартин уже отметил шестидесятилетие — гость «с удивлением обнаружил, что выглядел он намного моложе и оживленнее, чем любой из знакомых генералов времен войны за независимость». Именно в тот период Сан-Мартин предложил свои услуги первому и очень жестокому аргентинскому диктатору, Хуану Мануэлю де Росасу: сражаться против англо-французской агрессии. Предложение было вежливо отклонено.