Temperatura (sampling)
Un parametro che controlla quanto sia casuale l'output di un LLM. Una temperatura bassa (vicina a 0) rende il modello concentrato e prevedibile (sceglie quasi sempre la parola più probabile); una temperatura alta lo rende più creativo e vario, ma anche più incline a uscire dai binari.
Il meccanismo: prima di scegliere il token successivo il modello dispone di una distribuzione di probabilità su tutti i token possibili. La temperatura scala la distribuzione: un valore basso la «affila» (la massa di probabilità si concentra sui primi candidati → quasi deterministico a 0), un valore alto la «appiattisce» (più token hanno una possibilità → più varietà e scelte inattese).
Regola pratica: temperatura ~0 per fatti, codice ed estrazione (si vuole la risposta giusta e stabile); 0,7–1,0 per scrittura creativa e generazione di idee. Spesso combinata con top-p/top-k, che sfoltiscono quali token vengono presi in considerazione. Una temperatura troppo alta produce insensatezze incoerenti. Una delle manopole più fondamentali nell'uso degli LLM. Imparentato con nucleus sampling e top-k.