Goulburn est nommé par l'arpenteur James Meehan en l'honneur de Henry Goulburn, sous-secrétaire à la Guerre et aux Colonies, et son nom a été ratifié par le gouverneur Lachlan Macquarie.
Goulburn est nommé par James Meehan en l'honneur de Henry Goulburn, un homme politique britannique, et le gouverneur Lachlan Macquarie a approuvé le choix du nom.