IT用語集 › AI & 機械学習 › ニコラス・カーリーニ

ニコラス・カーリーニ

AI & 機械学習 Svenska → 更新: 2026-10-24
詳細情報
所属
UCバークレー、Google、Anthropic
代表的業績
Carlini–Wagner攻撃、訓練データ抽出

発表されたばかりの機械学習モデルの防御策を、数週間で破ることを専門にしてきたセキュリティ研究者。

バークレーの博士課程でデイビッド・ワグナーに師事していたカーリーニは、2017年にCarlini–Wagner攻撃を発表した。画像分類器に誤認させる最小の摂動を最適化で求める手法である。当時有望とされていた防御蒸留(defensive distillation)を破り、頑健性評価の標準的な物差しとなった。翌年には、アニッシュ・アサリー、ワグナーとともに、ICLRに採択された複数の防御策が、攻撃を止めているのではなく勾配を隠しているだけだと示した。

2021年には、GPT-2のような言語モデルから、訓練データがそのまま出てくることを示した。名前や電話番号も含まれていた。GoogleとDeepMindで数年を過ごしたのち、2025年にAnthropicへ移った。

← 用語集に戻る