Le bâtiment est entouré d'une mosquée, le Masjid al-Haram. Tous les musulmans du monde entier font face à la Kaaba pendant les prières, où qu'ils se trouvent.
La mosquée a été construite autour de la Kaaba originale.