Cuando Sarmiento había cumplido 75 años, su estado físico comenzó a menguar. Varios médicos lo habían examinado y le habían detectado una dolencia al corazón, a lo que se agregaba una bronquitis de larga data, resultado de su adicción al tabaco. También sufría de sordera, que sin embargo no hizo mella en su vida, expresando que al "senado no iba a oír, sino a hacerse oír...". Para 1884 realizó su último viaje a San Juan, teniendo que cruzar la cordillera, pues vino desde Chile. Sarmiento sabía que esta visita sería la última; llegó y además de todas las demostraciones de cariño que recibió, realizó todas las actividades que su salud le permitió. Relatan sus biógrafos, que el deterioro corporal que sufría, se acentuó por las amarguras espirituales, que lo entristecieron sobre manera. Unos de los hechos que minaron su ánimo fueron las muertes de dos entrañables amigos: Dalmacio Vélez Sársfield y la de su coterráneo Salvador María del Carril, que se sumaron al fusilamiento de Antonino Aberastaín, sucedido en 1861.

Llegado el año 1887, por consejo de su médico, viaja a Asunción del Paraguay. El aire tropical y el clima templado mitigaría la bronquitis crónica. Su salud mejora y retorna a Buenos Aires. No obstante esta mejoría es pasajera, embarcándose nuevamente a la tierra de los guaraníes. Al partir, le expresa apesadumbrado a su nieto Augusto: "No paso de este año, hijo, me voy a morir", y añade una frase que refleja su temperamento: "¡Ah! Si me hicieran Presidente! ¡Les daría el chasco de vivir diez años más!". Viaja en un vapor llamado "Cosmos". En el itinerario es objeto de cumplidos y variadas muestras de estima. Lo acompañan su hija Ana Faustina y su nieta María Luisa. En la capital paraguaya se emplaza en una pequeña casa dependiente de un antiguo hotel. Allí, a pesar de los a achaques físicos y anímicos, continúa con sus trabajos intelectuales, dedicándose a escribir y pensar en nuevos proyectos, amenizando estas labores con trabajos campestres. El entonces Ministro argentino en Paraguay Martín García Merou refiriéndose a la estadía del expresidente expresaba: "El general Sarmiento ignoraba la pereza y no comprendía la inactividad física ni intelectual. Admirablemente repuesto de la bronquitis que lo alejó de Buenos Aires, empezó desde luego una serie de trabajos que bastan para revelar cuán grande era la fortaleza de su organización...". También Manuel Gálvez se refiere a la vida del sanjuanino, aportando detalles anecdóticos: "Escribe con abundancia a San Juan. Complácele que se celebre el centenario del nacimiento de Laprida, lo que se hará el 9 de julio... Sarmiento es visitado por mucha gente. Hasta resulta un programa dominguero para los paraguayos ir a verle (...). Alguien le manda manzanas todos los días; y el ministro argentino, unos caldos riquísimos. Él convida a sus visitantes con sidra de San Juan".

Pero los vaticinios infalibles sobre su salud no se demoraron. Al llegar septiembre sufrió una recaída siendo preciso sentarlo en un sillón para calmarlo. Días después él mismo requirió que lo acostaran. Falleció en la madrugada del 11 de dicho mes.