ニュークリアスサンプリング(top-p)
累積確率が閾値p(例:0.9)に達する最小の上位候補集合の中からだけトークンを選ぶサンプリング手法。確率の低い「裾」を、モデルの確信度に応じて動的に切り落とす。
仕組みは、トークンを確率の高い順に並べて上から足し上げ、合計がpに届くところまでを残し、その中から抽選するというものだ。肝は動的な調整にある。モデルが強く確信しているとき(あるトークンが95%など)は残る集合が小さくほぼ決定的になり、迷っているとき(同程度の候補が多数)は集合が大きくなって多様性が増す。常に正確にk個を残すtop-kとはここが違う。利点は、ありえないトークンを誤って選んで意味不明になるのを避けつつ、自然なばらつきを保てることだ。温度と併用されることが多く、現代のLLMで最も一般的なサンプリング手法である。