Guardrails
Warstwy ochronne, które powstrzymują model językowy przed generowaniem niewłaściwych treści — albo przyjmowaniem niewłaściwych danych wejściowych.
Klasyfikatory działające przed modelem i po nim, reguły oparte na wzorcach, walidacja wyjścia, listy blokad. Narzędzia: NVIDIA NeMo Guardrails, Guardrails.ai, Azure Content Safety. Uzupełnienie własnego treningu modelu metodą RLHF.