Léxico TI › IA & ML › Penalización por repetición

Penalización por repetición

IA & ML Svenska → Actualizado: 2026-09-02

Parámetro de muestreo que reduce la probabilidad de tokens que ya han aparecido en el contexto — combate los bucles del LLM ("el el el...").

Aplica un ajuste al logit: lo divide por un factor (típicamente 1.0–1.3) si el token ya está en la secuencia. Variantes más refinadas: frequency penalty (proporcional al número de repeticiones) y presence penalty (binaria: visto o no).

Ayuda a modelos pequeños o mal afinados; en los grandes modelos de instrucciones modernos suele bastar con el valor por defecto 1.0 (apagado) más temperature/top-p por sí solos. Con una penalización demasiado alta, el modelo cambia de tema de forma incoherente.

← Volver al léxico