Guardrails
Защитные слои, не дающие LLM выдавать недопустимое — или принимать недопустимый ввод.
Классификаторы до и после модели, правила по шаблонам, валидация вывода, списки блокировки. Инструменты: NVIDIA NeMo Guardrails, Guardrails.ai, Azure Content Safety. Дополняют собственное обучение модели через RLHF.