Nucleus sampling (top-p)
En samplingsmetod (även "top-p") där modellen bara får välja bland den minsta uppsättning toppkandidat-tokens vars sammanlagda sannolikhet når en tröskel p (t.ex. 0,9). Beskär den osannolika "svansen" dynamiskt — antalet kandidater anpassar sig efter hur säker modellen är.
Mekanik: sortera tokens efter sannolikhet, summera uppifrån, och behåll bara dem som tillsammans utgör p av massan (t.ex. 90%); sampla sedan bland dessa. Det smarta: när modellen är mycket säker (en token har 95%) blir kärnan liten (nästan deterministiskt); när den är osäker (många jämnstora alternativ) blir kärnan stor (mer variation) → dynamisk anpassning. Skiljer sig från top-k (som alltid behåller exakt k tokens, oavsett om de är sannolika eller inte). Vinst: undviker att modellen råkar välja en mycket osannolik token (som ger nonsens) samtidigt som den behåller naturlig variation. Kombineras ofta med temperatur. Den vanligaste samplingsmetoden i moderna LLM:er. Hör ihop med top-k och temperatur.