Разбор ответа LLM (output parsing)
Извлечение структурированных данных из текстового ответа LLM и обработка случаев, когда модель не выдерживает запрошенный формат. Неприглядная реальность за получением надёжного машиночитаемого вывода от модели, которая генерирует свободный текст.
Проблема: просишь JSON — получаешь почти JSON: лишняя болтовня вокруг («Вот ваш JSON:»), сломанные кавычки, оборванный вывод, markdown-обёртка. Наивный JSON.parse падает. Разбор ответа это лечит: устойчивые парсеры достают JSON из окружающего текста, чинят типичные ошибки, проверяют по схеме, а при неудаче просят модель повторить («retry with error»). Библиотеки: OutputParsers в LangChain, валидация Pydantic. Лучшее решение, когда оно доступно, — ограниченное декодирование / структурированный вывод (модель на уровне токенов может сгенерировать только валидный JSON), которое убирает проблему у корня. Парсинг — защита, когда такой гарантии нет. Будничная, но критичная часть надёжных LLM-приложений.