Ilya Mironov
Plus d'infos
- Affiliation
- Microsoft Research, Google, Meta
- Connu pour
- Confidentialité différentielle de Rényi, l'attaque par virgule flottante, DP-SGD
Le cryptographe qui a montré que la confidentialité différentielle peut fuiter par les bits de poids faible d'un flottant, puis contribué à la rendre praticable pour l'apprentissage profond.
En 2012, Mironov publie un article qui aurait dû alarmer tous ceux qui avaient déjà implémenté la confidentialité différentielle. Le bruit de Laplace censé masquer les enregistrements individuels était généré en virgule flottante, et l'ensemble des flottants réellement possibles trahissait la valeur exacte en dessous. Les mathématiques étaient justes ; c'est l'ordinateur qui ne l'était pas. Son correctif, le mécanisme « snapping », arrondit les sorties sur une grille grossière.
En 2016, il cosigne l'article qui introduit DP-SGD, une manière d'entraîner des réseaux de neurones par SGD sous garanties de confidentialité. L'année suivante arrive la confidentialité différentielle de Rényi, une variante qui facilite considérablement le cumul du budget de confidentialité sur des milliers d'étapes d'entraînement. Les deux sont aujourd'hui utilisées presque partout où l'on entraîne des modèles sous DP.