Jailbreak
Nakłonienie LLM-a do obejścia własnych zasad bezpieczeństwa — „DAN” (Do Anything Now), „wciel się w rolę…”, zaszyfrowane instrukcje.
W odróżnieniu od prompt injection (przemycania poleceń w danych wejściowych) jailbreak to bezpośrednia próba przechytrzenia zabezpieczeń. W latach 2023–2024 był niemal sportem. Modele są dziś znacznie odporniejsze, ale nowe jailbreaki wciąż się pojawiają.