Dans le courant d'août 1902, brusquement, la chancellerie russe reçut avis du gouvernement français que M. de Montebello allait être rappelé et qu'on demandait l'agrément de l'Empereur pour la nomination de son successeur, M. Bompard. La manière, pour le moins, offensait l'usage protocolaire un gouvernement ne relève de ses fonctions un ambassadeur qu'après s'être mis d'accord avec le chef d'État auprès de qui il est accrédité. La chancellerie russe demanda des explications au cabinet français. Celui-ci, dans une réponse à dessein embrouillée, rappela certaine conversation que M. Loubet avait eue avec l'Empereur et où il avait été question, prétendait-on, du rappel éventuel de M. de Montebello.
Ce dernier apprit de la chancellerie quel était l'étonnement du gouvernement russe et à quel point le tsar était surpris. Aussi bien Nicolas Il fit-il offrir aussitôt à notre ambassadeur ses bons offices. Noblement, M. de Montebello remercia et refusa.
Sire, dit-il à l'Empereur, je suis profondément reconnaissant à Votre Majesté, mais Elle comprendra que je ne saurais représenter un gouvernement qui n'a plus confiance dans son ambassadeur.
Ainsi, contrairement à tous les usages, sans que le tsar eût été consulté, le marquis de Montebello fut rappelé purement et simplement, et son successeur fut désigné fonctionnaire jusque-là chargé des affaires commerciales et consulaires, très galant homme et même très honnête homme, M. Bompard n'avait pas le prestige diplomatique de son prédécesseur. C'était gravement compromettre les intérêts français que d'opérer de cette manière un tel changement.
On put mesurer quelle était l'influence des Montebello à la cour de Russie au nombre et à la vivacité des regrets que causa leur départ. Ils quittèrent, au milieu des témoignages les plus touchants, les plus enthousiastes, les plus flatteurs, cette ambassade où, pendant douze années, ils avaient si brillamment et si magnifiquement représenté la France. 