Jailbreak
Indurre un LLM ad aggirare le proprie regole di sicurezza: «DAN» (Do Anything Now), «fingi di essere…», istruzioni cifrate.
A differenza della prompt injection (istruzioni nascoste nei dati in ingresso), i jailbreak sono tentativi diretti di superare in astuzia i guardrail. Uno sport nel 2023-2024. I modelli sono diventati molto più robusti, ma nuovi jailbreak compaiono ancora.