Mexès 12 yaşında, Auxerre'nin altyapısına girdi. Auxerre kulübü Mexés ile 1999 yılında 4 yıllık sözleşme imzaladı. Philippe Mexés, Auxerre formasıyla çıktığı 133 maçta 7 gol kaydetme başarısı gösterdi.
Mexès Auxerre ile sona eren sözleşmesinin ardından Haziran 2004'te AS Roma tarafından dört yıllık sözleşme imzalandı.AJ Auxerre transferi kabul etmedi AS Roma sonra kötüye kullanmaktan suçlu bulundu;. Bu sadece oyuncunun karardı. Mexès askıya alınmıştı ancak daha sonra yasağı geçici olarak kaldırılmış oldu. Mexès ACF Fiorentina karşısında 12 Eylül 2004 ilk Serie A maçı oynadı. Şubat 2005'te, altı haftalık yasağa itiraz etti ve Mexès Nisan ayına kadar askıya alındı. Transferinde ise AS Roma takımı AJ Auxerre'ye 7.000.000€ transfer ücreti ödedi.
10 Mayıs 2011 tarihinde, Milan CEO'su Adriano Galliani Mexès için bir transfer tamamlanması belirterek "Philippe Mexès AC Milan'da gelecek sezon oynayacak" sözlerini açıkladı. Mexés ilk resmi maçına çıktı diz yaralanmasından dolayı sadece 45 dakika oynayabildi. 26 Ekim 2011 günü Parma karşısında AC Milan evinde 4-1 kazandı. Mexés'in 1 Temmuz 2016 tarihinde AC Milan takımıyla olan bağları kopmuştur.
Ağustos 2002'de Mexés U-18 ve U-21 Fransız millî futbol takımlarında oynadı. Millî takım teknik direktörü olarak Raymond Domenech'in görev süresinde, çok az forma giydi ve 2004 Avrupa Futbol Şampiyonası'nda forma giyemedi. Ağustos 2006 yılında Bosna-Hersek karşısında Fransa'nın dostluk maçı için çağrıldı. Mexès sırasıyla Almanya ve Güney Afrika'da maçlarına çağrıldı. 2006 ve 2010 Dünya Kupasında millî takıma çağırılmadı. 2010 FIFA Dünya Kupası'ndan sonra, Laurent Blanc millî takımının yeni teknik direktörü olarak atandı ve Mexès millî takıma çağrılmaya başlandı. Blanc döneminde 5 maça çıktı. 25 Mart 2011 tarihinde, Lüksemburg'a karşı ülkesinin ilk golünü attı.