Ilya Mironov
Więcej informacji
- Afiliacja
- Microsoft Research, Google, Meta
- Znany z
- Prywatności różnicowej Rényiego, ataku na liczby zmiennoprzecinkowe, DP-SGD
Kryptograf, który pokazał, że prywatność różnicowa może przeciekać przez najmniej znaczące bity liczby zmiennoprzecinkowej, a potem pomógł uczynić ją praktyczną w głębokim uczeniu.
W 2012 roku Mironov opublikował artykuł, który powinien zaniepokoić każdego, kto kiedykolwiek implementował prywatność różnicową. Szum Laplace'a, mający ukrywać pojedyncze rekordy, był generowany w liczbach zmiennoprzecinkowych, a wzorzec tego, które wartości w ogóle mogą wystąpić, zdradzał dokładną wartość ukrytą pod spodem. Matematyka była poprawna; komputer nie. Jego poprawka, mechanizm „snapping”, zaokrągla wyniki do grubej siatki.
W 2016 roku był współautorem artykułu wprowadzającego DP-SGD, czyli sposób trenowania sieci neuronowych za pomocą SGD z gwarancjami prywatności. Rok później pojawiła się prywatność różnicowa Rényiego, wariant znacznie ułatwiający sumowanie budżetu prywatności po tysiącach kroków treningu. Oba rozwiązania są dziś stosowane niemal wszędzie, gdzie modele trenuje się z DP.