Guardrails (AI)
Beschermlagen rond een LLM die controleren en begrenzen wat erin gaat en eruit komt — schadelijke vragen blokkeren, ongepaste antwoorden filteren, het model bij een onderwerp houden of een formaat afdwingen. Een aparte veiligheidslaag bovenop de eigen training van het model.
Waarom: je kunt er niet op vertrouwen dat de ingebouwde alignment van het model altijd standhoudt (jailbreaks, randgevallen), dus voeg je externe controles toe. Soorten: input-guardrails (prompt injection, verboden onderwerpen en PII opsporen voordat ze het model bereiken), output-guardrails (haatdragende of gevaarlijke inhoud filteren, controleren dat het antwoord binnen toegestane onderwerpen blijft, formaat/schema valideren) en dialoogbeleid (bepalen waarover de bot mag praten). Geïmplementeerd met regels, classifiers of een aparte "judge"-LLM. Gereedschap: NVIDIA NeMo Guardrails, Guardrails AI, Llama Guard. Afweging: te strakke guardrails geven onterechte weigeringen en het frustrerende "daar kan ik niet mee helpen"; te losse laten problemen door. Standaard in productiesystemen met LLM's. Verwant aan jailbreak en structured output.