Léxico de TI › IA & ML › Amostragem nucleus (top-p)

Amostragem nucleus (top-p)

IA & ML Svenska → Atualizado: 2026-09-30

Método de amostragem (também chamado de "top-p") em que o modelo só pode escolher entre o menor conjunto de tokens mais prováveis cuja probabilidade somada atinge um limiar p (por exemplo, 0,9). Ele poda a "cauda" improvável de forma dinâmica — o número de candidatos se adapta ao grau de confiança do modelo.

Mecânica: ordenam-se os tokens por probabilidade, soma-se a partir do topo e mantêm-se apenas os que juntos formam p da massa (por exemplo, 90%); depois sorteia-se entre eles. O truque está aqui: quando o modelo está muito confiante (um token tem 95%), o núcleo é pequeno (quase determinístico); quando está incerto (muitas alternativas de tamanho parecido), o núcleo é grande (mais variação) → adaptação dinâmica. Difere do top-k, que sempre mantém exatamente k tokens, sejam eles prováveis ou não. Vantagem: evita que o modelo escolha por acidente um token muito improvável (o que gera besteira), sem perder a variação natural. Costuma ser combinado com temperatura. É o método de amostragem mais comum nos LLMs modernos.

← Voltar ao léxico