Temperatura (LLM)
Parametro di campionamento che controlla la casualità di un LLM. T=0 è greedy (sempre il token più probabile, deterministico), T=1 la distribuzione nativa, T>1 più creativo o caotico. Tecnicamente: i logit si dividono per T prima del softmax.
Usi tipici: T=0 per output strutturato (estrazione JSON, correzione di codice), T=0,7–1,0 per la scrittura creativa, T=1,5+ per il brainstorming. Nella pratica T=0 non è deterministico al 100% a causa della virgola mobile e dell'inferenza in batch: lo stesso prompt può dare risposte diverse. Si abbina a top_p (nucleus sampling: si campiona tra i token più probabili la cui probabilità cumulata supera p) e top_k (limita i candidati ai primi k). Oggi si consiglia di norma T=1 con top_p=0,9. Per un vero determinismo serve un parametro seed (OpenAI ne ha uno), non basta T=0.