Perplexity
Misura di quanto un modello linguistico sia «confuso» sul token successivo: più è bassa, meglio è.
Si calcola a partire dalla cross-entropy loss. GPT-2 aveva una perplexity di circa 30 su Wikipedia; GPT-4 scende a 2-3. Metrica classica dei modelli linguistici, ma dice poco sulla capacità di seguire istruzioni. Da non confondere con Perplexity.ai (il motore di ricerca).