Température (échantillonnage)
Un paramètre qui règle le degré d'aléa de la sortie d'un LLM. Une température basse (proche de 0) rend le modèle concentré et prévisible (il choisit presque toujours le mot le plus probable) ; une température élevée le rend plus créatif et plus varié — mais aussi plus enclin à partir dans tous les sens.
Mécanique : avant de choisir le prochain token, le modèle dispose d'une distribution de probabilités sur tous les tokens possibles. La température met cette distribution à l'échelle : une valeur basse l'« aiguise » (la masse de probabilité se concentre sur les meilleurs candidats → quasi déterministe à 0), une valeur haute l'« aplatit » (davantage de tokens ont leur chance → plus de variation et de choix inattendus). Règle empirique : température proche de 0 pour les faits, le code et l'extraction (on veut la bonne réponse, stable) ; 0,7–1,0 pour l'écriture créative et la production d'idées. Souvent combinée à top-p/top-k, qui élaguent les tokens admis à concourir. Une température trop haute produit du charabia incohérent. L'un des réglages les plus fondamentaux de l'usage des LLM, apparenté à l'échantillonnage par noyau et au top-k.