Perplexity
Een maat voor hoe 'verward' een taalmodel is over het volgende token; lager is beter.
Berekend uit de cross-entropy loss. GPT-2 haalde een perplexity van ongeveer 30 op Wikipedia; GPT-4 zakte naar zo'n 2–3. Een klassieke maatstaf voor taalmodellen, maar zegt weinig over het opvolgen van instructies. Niet te verwarren met Perplexity.ai (de zoekmachine).