Guardrail
Strati protettivi che impediscono a un LLM di produrre output inappropriato — o di accettare input inappropriato.
Classificatori che girano prima e dopo il modello, regole su pattern, validazione dell'output, elenchi di blocco. Strumenti: NVIDIA NeMo Guardrails, Guardrails.ai, Azure Content Safety. Un complemento all'addestramento RLHF del modello stesso.