IT用語集 › AI & 機械学習 › Top-p
LLMのパラメータ。確率の合計がp%に達するまでの上位トークンだけから、次のトークンを選ぶ。
top-p = 0.9 は「確率の低いトークンは無視する」という意味である。候補数を固定するtop-kより賢いのは、モデルの自信の度合いに応じて候補の数が変わるからだ。通常は温度(temperature)と組み合わせて使う。