Parsing de sortie (LLM) output parsing
Analyser et extraire des données structurées de la réponse textuelle d'un LLM — et gérer les cas où le modèle ne respecte pas exactement le format demandé. La réalité brouillonne derrière l'obtention d'une sortie fiable et lisible par une machine à partir d'un modèle qui génère du texte libre.
Le problème : demandez du JSON à un modèle et vous obtenez souvent du quasi-JSON — du bavardage autour (« Voici le JSON : »), des guillemets cassés, une sortie tronquée ou des clôtures markdown. Un JSON.parse naïf plante. Le parsing de sortie y remédie : des parseurs robustes qui extraient le JSON du texte environnant, réparent les erreurs courantes, valident selon un schéma et, en cas d'échec, demandent au modèle de réessayer (« retry with error »). Bibliothèques : les OutputParsers de LangChain, la validation Pydantic. La meilleure solution quand elle est disponible : le décodage contraint / la sortie structurée (forcer le modèle à ne générer que du JSON valide au niveau du token), qui élimine le problème à la source. Le parsing de sortie est la défense quand on n'a pas cette garantie. Un volet quotidien mais crucial de la construction d'applications LLM fiables. Voir aussi sortie structurée et function calling.