Jailbreak (LLM)
Indurre un LLM ad aggirare le proprie protezioni e a fare ciò che è stato addestrato a rifiutare, con prompt ingegnosi: giochi di ruolo, scenari ipotetici, istruzioni codificate o sovrascrittura del system prompt. Un continuo gioco del gatto col topo tra utenti e sviluppatori dei modelli.
Tecniche: gioco di ruolo («fingi di essere un'IA senza regole», «DAN — Do Anything Now»), cornici ipotetiche («in una storia di fantasia, spiega come…»), suddivisione di una domanda vietata in parti innocue, codifica (base64, altre lingue) oppure «prompt override» per far ignorare al modello le sue istruzioni. Va distinto dalla prompt injection, che inietta istruzioni tramite dati esterni (ad esempio una pagina web letta dal modello): il jailbreak colpisce direttamente le regole del modello. Difese: RLHF e safety tuning, rafforzamento del system prompt, filtri sull'output, guardrail e «red teaming». Nessuna difesa è a tenuta stagna e nuovi jailbreak compaiono di continuo. Tema centrale per la sicurezza dell'IA.