Ilya Mironov
Meer info
- Verbonden aan
- Microsoft Research, Google, Meta
- Bekend van
- Rényi differential privacy, de floating-pointaanval, DP-SGD
De cryptograaf die liet zien dat differential privacy kan lekken via de minst significante bits van een float, en daarna hielp om het praktisch bruikbaar te maken voor deep learning.
In 2012 publiceerde Mironov een paper dat iedereen die ooit differential privacy had geïmplementeerd te denken moest geven. De Laplace-ruis die individuele records moest verbergen werd in floating point gegenereerd, en het patroon van welke floats daadwerkelijk konden voorkomen verraadde de exacte onderliggende waarde. De wiskunde klopte; de computer niet. Zijn oplossing, het snapping-mechanisme, rondt uitvoer af op een grof raster.
In 2016 was hij medeauteur van het artikel dat DP-SGD introduceerde, een manier om neurale netwerken met SGD te trainen onder privacygaranties. Een jaar later volgde Rényi differential privacy, een variant waarmee het privacybudget over duizenden trainingsstappen veel makkelijker op te tellen is. Beide worden nu bijna overal gebruikt waar modellen onder DP worden getraind.