Output-parsing (LLM)
Att tolka och extrahera strukturerad data ur en LLM:s textsvar — och hantera när modellen inte följer det begärda formatet exakt. Den röriga verkligheten bakom att få pålitlig, maskinläsbar output ur en modell som genererar fri text.
Problem: ber man en modell om JSON får man ofta nästan-JSON — extra prat runtom ("Here's the JSON:"), trasiga citattecken, avklippt output, eller markdown-staket. En naiv JSON.parse kraschar. Output-parsing hanterar detta: robusta parsers som plockar ut JSON ur omgivande text, repar vanliga fel, validerar mot ett schema, och vid misslyckande ber modellen försöka igen ("retry with error"). Bibliotek: LangChains OutputParsers, Pydantic-validering. Bättre lösning när den finns: constrained decoding / structured output (tvinga modellen att bara generera giltig JSON på token-nivå), som eliminerar problemet vid källan. Output-parsing är försvaret när man inte har den garantin. En vardaglig men kritisk del av att bygga pålitliga LLM-appar. Hör ihop med structured output och function calling.