Ilya Mironov
Mer info
- Verksam vid
- Microsoft Research, Google, Meta
- Känd för
- Rényi-differentiell integritet, flyttalsattacken, DP-SGD
Kryptografen som visade att differentiell integritet kan läcka genom flyttalens minst signifikanta bitar och som sedan gjorde tekniken användbar för djupinlärning.
2012 publicerade Mironov en artikel som borde ha skrämt alla som implementerat differentiell integritet. Laplacebruset som ska dölja enskilda poster genererades i flyttal, och mönstret av vilka flyttal som kunde uppstå avslöjade det exakta värdet bakom. Matematiken var korrekt, datorn var det inte. Hans lösning, snapping-mekanismen, avrundar utdata till ett grovt rutnät.
2016 var han medförfattare till artikeln som introducerade DP-SGD, ett sätt att träna neuronnät med SGD under integritetsgarantier. Året därpå kom Rényi-differentiell integritet, en variant som gör det mycket enklare att räkna ihop integritetsbudgeten över tusentals träningssteg. Båda används i dag i stort sett överallt där man tränar modeller under DP.