title: Differentially Private Stochastic Gradient Descent
text: # Differentially Private Stochastic Gradient Descent
  
  Differentially Private Stochastic Gradient Descent (DP-SGD) est une technique d'optimisation qui combine des caractéristiques de la descente de gradient stochastique et de la confidentialité différentielle. Comme la descente de gradient stochastique, DP-SGD est un algorithme d'optimisation itératif qui utilise des mini-batchs pour estimer le gradient stochastique, tel qu'utilisé dans SGD pour optimiser une fonction objectif différentiable. Contrairement à SGD traditionnel, DP-SGD garantit la confidentialité différentielle dans un cadre d'apprentissage fédéré. Pour rendre un algorithme différentiellement privé, du bruit est ajouté à chaque information pouvant être observée par un adversaire. Une stratégie classique d'apprentissage fédéré consiste à ce qu'un agrégateur diffuse les paramètres courants du modèle, à chaque itération, après quoi tous les propriétaires des données calculent localement les gradients de la fonction objectif pour ce modèle global sur leurs données privées, agrègent ces gradients de manière sécurisée et envoient le gradient agrégé à l'agrégateur.
  
  ## État de l'art
  
  Pour atteindre la confidentialité différentielle avec un minimum de bruit, il est nécessaire de la plus petit borne supérieur de la sensibilité du l'algorithme à protéger. Une approche consiste à limiter la sensibilité du gradient en supposant que la fonction objectif est une Application lipschitzienne. Dans le cas des réseaux de neurones profonds (DNN), la fonction objectif n'est pas convexe et généralement pas même lipschitzienne. Par conséquent, une méthode courante consiste à tronquer les gradients (clipping), c'est-à-dire diviser les gradients par la norme maximale possible qu'ils peuvent atteindre. Ces gradients normalisés ont une norme bornée et donc une sensibilité bornée.
  
  Pour suivre la consommation du budget de confidentialité, on peut s'appuyer sur le théorème de composition forte, tandis que d'autres se basent sur la comptabilité des moments comme le propose Abadi. La comptabilité des moments exploite indirectement la confidentialité différentielle de Rényi et fournit des bornes beaucoup plus serrées sur la perte de confidentialité que le théorème de composition forte.
  
  Cela a ouvert un domaine de recherche actif qui s'appuie sur le travail d'Abadi afin de fournir une meilleure estimation des hyperparamètres, tels que la norme de clipping, le learning rate ou la taille de pas de la consommation du budget de confidentialité. Cependant, l'algorithme d'Abadi reste l'approche standard pour la DP-SGD.
  
  