Léxico TI › IA & ML › Decodificación voraz

Decodificación voraz

IA & ML Svenska → Actualizado: 2026-08-20

Estrategia de muestreo de LLM: elegir siempre el token con mayor probabilidad. Equivale a temperature=0 + top_k=1. Determinista; el camino más corto de prompt a respuesta. Estándar para tareas factuales o de generación de código.

Contrapartida: la decodificación voraz es "óptima localmente" pero puede perderse secuencias globalmente mejores — en mitad de una frase, elegir un token frecuente puede rebajar la probabilidad de los tokens siguientes. Alternativa de beam search: mantener las N mejores candidatas en paralelo, expandirlas todas, quedarse con la de mejor probabilidad total. Mejor calidad, 3-5x más cómputo. El muestreo con temperature>0 da más varianza y diversidad (para escritura creativa). La salida de un LLM moderno suele ser una mezcla: voraz para bloques de código, muestreo para texto de "introducción" y "explicación". El modo JSON combina la decodificación voraz con una restricción de gramática.

← Volver al léxico