JSON mode
Funkcja LLM gwarantująca, że wynik jest poprawnym JSON-em. OpenAI wprowadziło ją w 2023 roku; Anthropic i Google poszli w ślad. Realizowana przez constrained decoding — próbkowanie tokenów jest zmuszone do zgodności z gramatyką, więc można wybrać tylko tokeny pasujące do JSON-a.
Dalej: structured output ze schematem JSON Schema. Model dostaje schemat, a wynik jest gwarantowanie z nim zgodny. OpenAI Strict Mode (2024) — 100% zgodności ze schematem. Klasyczny problem wcześniej: prosisz o JSON, a model czasem dopisuje „Oto JSON:", co psuje parser. Open source: outlines, LMQL, instructor, tryb gramatyki w llama.cpp. Zastosowania: function calling, ekstrakcja danych, integracje aplikacji. Kompromis: nieco ograniczona swoboda wyniku (schemat to twarde ogrodzenie).