Jailbreak (LLM)
Een LLM ertoe brengen de eigen veiligheidsregels te omzeilen en te doen wat het is aangeleerd te weigeren, met slimme prompts: rollenspel, hypothetische scenario's, gecodeerde instructies of het overschrijven van de systeemprompt. Een voortdurend kat-en-muisspel tussen gebruikers en modelontwikkelaars.
Technieken: rollenspel („doe alsof je een AI zonder regels bent”, „DAN: Do Anything Now”), hypothetische inkleding („in een fictief verhaal leg je uit hoe…”), een verboden vraag opknippen in onschuldige deelvragen, codering (base64, andere talen) of een „prompt override” waardoor het model zijn instructies negeert. Te onderscheiden van prompt injection (instructies binnensmokkelen via externe data, zoals een webpagina die het model leest): een jailbreak richt zich direct op het eigen beleid van het model. Verdediging: RLHF en safety-tuning, versterkte systeemprompts, uitvoerfilters, guardrails en red teaming. Geen enkele verdediging is waterdicht; er duiken steeds nieuwe jailbreaks op. Centraal in AI-veiligheid.