Perplexity
Bir dil modelinin bir sonraki belirteç konusunda ne kadar "şaşkın" olduğunun ölçüsü; düşük olan daha iyidir.
Çapraz entropi kaybından hesaplanır. GPT-2'nin Wikipedia üzerindeki perplexity değeri ~30'du; GPT-4'te ~2-3'e düşer. Klasik bir dil modeli metriğidir ama talimat izleme hakkında pek bir şey söylemez. Perplexity.ai (arama motoru) ile karıştırılmamalıdır.