Guardrails
Beschermlagen die voorkomen dat een LLM ongepaste uitvoer produceert, of ongepaste invoer accepteert.
Classifiers vóór en na het model, patroonregels, uitvoervalidatie en blokkadelijsten. Tools: NVIDIA NeMo Guardrails, Guardrails.ai, Azure Content Safety. Een aanvulling op de RLHF-training van het model zelf.