ニコラス・カーリーニ
詳細情報
- 所属
- UCバークレー、Google、Anthropic
- 代表的業績
- Carlini–Wagner攻撃、訓練データ抽出
発表されたばかりの機械学習モデルの防御策を、数週間で破ることを専門にしてきたセキュリティ研究者。
バークレーの博士課程でデイビッド・ワグナーに師事していたカーリーニは、2017年にCarlini–Wagner攻撃を発表した。画像分類器に誤認させる最小の摂動を最適化で求める手法である。当時有望とされていた防御蒸留(defensive distillation)を破り、頑健性評価の標準的な物差しとなった。翌年には、アニッシュ・アサリー、ワグナーとともに、ICLRに採択された複数の防御策が、攻撃を止めているのではなく勾配を隠しているだけだと示した。
2021年には、GPT-2のような言語モデルから、訓練データがそのまま出てくることを示した。名前や電話番号も含まれていた。GoogleとDeepMindで数年を過ごしたのち、2025年にAnthropicへ移った。