Jailbreak
Bir LLM'yi güvenlik kurallarını çiğnemeye kandırmak: "DAN" (Do Anything Now), "şu rolü oyna…", şifrelenmiş talimatlar.
Prompt injection'dan (talimatı girdi verisine gizlemek) farkı, jailbreak'in koruma önlemlerini doğrudan alt etmeye çalışmasıdır. 2023-2024'te neredeyse bir spordu. Modeller çok daha dayanıklı hâle geldi; yine de yenileri çıkmaya devam ediyor.