Output-Parsing (LLM)
Die strukturierte Datenextraktion aus der Textantwort eines LLM – und der Umgang damit, wenn das Modell das gewünschte Format nicht exakt einhält. Die unordentliche Realität hinter zuverlässigem, maschinenlesbarem Output aus einem Modell, das freien Text erzeugt.
Problem: Bittet man ein Modell um JSON, bekommt man oft Fast-JSON – zusätzliches Geplauder drumherum („Hier ist das JSON:"), kaputte Anführungszeichen, abgeschnittenen Output oder Markdown-Zäune. Ein naives JSON.parse stürzt dabei ab. Output-Parsing kümmert sich darum: robuste Parser, die JSON aus umgebendem Text herausziehen, gängige Fehler reparieren, gegen ein Schema validieren und bei einem Fehlschlag das Modell erneut fragen lassen („Retry with error"). Bibliotheken: LangChains OutputParsers, Pydantic-Validierung. Die bessere Lösung, wo verfügbar: Constrained Decoding / Structured Output (das Modell wird auf Token-Ebene gezwungen, nur gültiges JSON zu erzeugen), was das Problem an der Wurzel beseitigt. Output-Parsing ist die Verteidigungslinie, wenn diese Garantie fehlt. Ein alltäglicher, aber kritischer Baustein zuverlässiger LLM-Anwendungen, eng verwandt mit Structured Output und Function Calling.