N'ayant pas été réélu en 1892, il retourne à la vie privée à son domicile d'Indianapolis, où il se remarie, rédige un livre et, plus tard, représente la République du Venezuela dans une affaire internationale contre le Royaume-Uni.
Il habite à Indianapolis, en Indiana.