Nucleus örnekleme (top-p)
Modelin yalnızca toplam olasılığı bir p eşiğine (ör. 0,9) ulaşan en küçük aday token kümesi arasından seçebildiği örnekleme yöntemi (“top-p” de denir). Olası olmayan “kuyruğu” dinamik olarak budar — aday sayısı modelin ne kadar emin olduğuna göre uyum sağlar.
Mekanizma: token’ları olasılığa göre sırala, tepeden toplamaya başla ve toplamı p’ye (ör. %90) ulaşana kadar olanları tut; sonra bunlar arasından örnekle. Akıllıca kısmı: model çok eminse (tek token %95) çekirdek küçüktür (neredeyse deterministik); emin değilse (eşit ağırlıklı çok alternatif) çekirdek büyüktür (daha fazla çeşitlilik) → dinamik uyum. Her zaman tam k token tutan top-k’dan farkı, token’ların olası olup olmamasından bağımsız davranmamasıdır. Kazanç: modelin yanlışlıkla çok düşük olasılıklı (saçma sonuç veren) bir token seçmesini önlerken doğal çeşitliliği korur. Sıklıkla sıcaklıkla (temperature) birleştirilir. Modern LLM’lerde en yaygın örnekleme yöntemi.