En 1958, Rau et son mentor politique, Gustav Heinemann, se joignent au Parti social-démocrate d'Allemagne - LRB- SPD -RRB-, où il a été actif dans le chapitre de Wuppertal.
En 1958, Rau et Heinemann se joignent au Parti social-démocrate d'Allemagne -LRB- SDP -RRB-, où il est actif dans la branche de Wuppertal.