Perplejidad
Medida de lo "confundido" que está un modelo de lenguaje ante el siguiente token — cuanto más baja, mejor.
Se calcula a partir de la cross-entropy loss. GPT-2 tenía una perplejidad de ~30 en Wikipedia; GPT-4 baja hasta ~2-3. Es una métrica clásica de modelos de lenguaje, pero dice poco sobre lo bien que sigue instrucciones. No confundir con Perplexity.ai, el buscador.