Il est peut-être mieux connu pour avoir joué le charismatique excavateur arabe Sallah dans les films d'Indiana Jones et le nain Gimli dans la trilogie du Seigneur des anneaux, dans laquelle il a également exprimé l'ent, Treebeard.
Bien qu'il ait joué dans de nombreux films, Rhys-Davies est probablement surtout connu pour ses personnages dans deux séries de films à succès : Sallah dans les films Indiana Jones et le nain Gimli dans la trilogie du film du Seigneur des anneaux.