Il se joint bientôt à la faction "démocrate-républicaine" dirigée par Jefferson et Madison et, en 1791, il est le chef du parti au Sénat.
Il a aidé à former le Parti démocrate-républicain avec Jefferson et James Madison.