Léxico TI › IA & ML › Logit bias

Logit bias

IA & ML Svenska → Actualizado: 2026-08-21

Un parámetro que permite subir o bajar manualmente la probabilidad de tokens específicos en la salida de un LLM — para forzar, o prohibir por completo, ciertas palabras o símbolos. Una herramienta directa pero tosca para dirigir la generación.

Mecánica: antes del muestreo se suma tu valor de sesgo al logit (puntuación bruta) del token seleccionado. Un valor positivo grande hace que un token sea casi inevitable; uno negativo grande (p. ej. -100) lo hace prácticamente imposible de elegir. Casos de uso: prohibir ciertas palabras, forzar que una respuesta esté entre pocas alternativas (por ejemplo, solo "sí"/"no" o una etiqueta de clase), evitar un carácter de formato, o atenuar la repetición. Limitación: se trabaja a nivel de token (no de palabra o concepto completo — una palabra puede ser varios tokens), así que es delicado y tosco comparado con structured output / constrained decoding. Se expone en la API de OpenAI, entre otras. Una herramienta de bajo nivel de antes de que el structured output se generalizara. Relacionado con JSON Schema y la temperatura.

← Volver al léxico