Температура (выборка)
Параметр, управляющий степенью случайности ответа LLM. Низкая температура (около 0) делает модель сосредоточенной и предсказуемой (почти всегда берёт самое вероятное слово), высокая — более творческой и разнообразной, но и склонной сорваться в чепуху.
Механика: перед выбором следующего токена у модели есть распределение вероятностей по всем возможным токенам. Температура масштабирует его: низкое значение «заостряет» распределение (вероятность концентрируется на лидерах — при 0 почти детерминизм), высокое «сглаживает» (шанс получают больше токенов — больше вариативности и неожиданных ходов). Практическое правило: температура около 0 для фактов, кода и извлечения данных (нужен точный и стабильный ответ); 0,7–1,0 для творческого письма и генерации идей. Часто сочетается с top-p/top-k, которые отсекают токены, вообще допущенные к выбору. Слишком высокая температура даёт несвязный бред. Один из самых базовых регуляторов при работе с LLM.