Les habitants de la région l'appellent souvent "l'Abbaye", bien que la cathédrale actuelle ne représente que l'église de l'ancienne abbaye bénédictine.
Avec une grande partie de son architecture actuelle datant de l'époque normande, elle est devenue une cathédrale en 1877.