Top-p
LLM parametresi: bir sonraki token yalnızca toplam olasılığı %p’yi oluşturan adaylar arasından seçilir.
top-p = 0,9, “en olası olmayan token’ları yok say” demektir. Sabit sayılı seçimden (top-k) daha akıllıdır, çünkü modelin ne kadar emin olduğuna uyum sağlar. Genellikle sıcaklıkla (temperature) birlikte kullanılır.