Nicholas Carlini
O pesquisador de segurança que fez especialidade de quebrar defesas publicadas para modelos de machine learning, muitas vezes em questão de semanas.
Como doutorando de David Wagner em Berkeley, Carlini publicou em 2017 o ataque Carlini–Wagner, um método de otimização que encontra perturbações mínimas para fazer um classificador de imagens enxergar a coisa errada. Ele derrotou a destilação defensiva, então considerada promissora, e virou a régua padrão de robustez. Um ano depois, ele, Anish Athalye e Wagner mostraram que várias defesas aceitas na ICLR apenas escondiam seus gradientes em vez de barrar o ataque.
Em 2021, mostrou que modelos de linguagem como o GPT-2 podem ser induzidos a cuspir trechos literais dos dados de treinamento, com nomes e telefones incluídos. Depois de anos no Google e na DeepMind, foi para a Anthropic em 2025.