Análisis de la salida (LLM)
Analizar y extraer datos estructurados de la respuesta textual de un LLM — y gestionar lo que pasa cuando el modelo no sigue exactamente el formato pedido. La realidad, más caótica de lo que parece, de conseguir una salida fiable y legible por máquina a partir de un modelo que genera texto libre.
El problema: pídele JSON a un modelo y a menudo obtendrás casi-JSON — charla extra alrededor ("Here's the JSON:"), comillas rotas, salida truncada o vallas de markdown. Un JSON.parse ingenuo falla. El análisis de salida se ocupa de esto: parsers robustos que extraen el JSON del texto que lo rodea, reparan errores comunes, validan contra un esquema y, si fallan, piden al modelo que lo intente de nuevo ("retry with error"). Bibliotecas: los OutputParsers de LangChain, la validación con Pydantic. La solución mejor, cuando existe: la decodificación restringida o structured output (obligar al modelo a generar solo JSON válido a nivel de token), que elimina el problema de raíz. El análisis de salida es la defensa para cuando no se tiene esa garantía. Una parte cotidiana pero crítica de construir aplicaciones de LLM fiables. Relacionado con structured output y function calling.