Илья Миронов
Подробнее
- Место работы
- Microsoft Research, Google, Meta
- Известен
- дифференциальная приватность Реньи, атака через числа с плавающей запятой, DP-SGD
Криптограф, показавший, что дифференциальная приватность может утекать через младшие биты числа с плавающей запятой, а затем помогший применить её в глубоком обучении.
В 2012 году Миронов опубликовал статью, которая должна была встревожить каждого, кто реализовывал дифференциальную приватность. Лапласов шум, призванный скрыть отдельные записи, генерировался в числах с плавающей запятой, а набор значений, которые вообще могут получиться, выдавал точное исходное число. Математика была верной — подвёл компьютер. Его исправление, «snapping mechanism», округляет выход до грубой сетки.
В 2016 году он стал соавтором статьи о DP-SGD — способе обучать нейросети методом SGD с гарантиями приватности. Годом позже появилась дифференциальная приватность Реньи — вариант, сильно упрощающий суммирование бюджета приватности по тысячам шагов обучения. Оба подхода теперь используются почти везде, где модели учат с DP.