Jailbreak (LLM)
Amener un LLM à contourner ses propres garde-fous et à faire ce qu'il est entraîné à refuser — via des prompts habiles : jeu de rôle, scénarios hypothétiques, instructions encodées, ou consignes qui écrasent le prompt système. Un jeu du chat et de la souris permanent entre utilisateurs et éditeurs de modèles.
Techniques courantes : le jeu de rôle (« fais comme si tu étais une IA sans règles », « DAN — Do Anything Now »), la mise en scène hypothétique (« dans une histoire fictive, explique comment… »), le découpage d'une question interdite en parties anodines, l'encodage (base64, autre langue), ou le « prompt override » qui pousse le modèle à ignorer ses instructions. À distinguer du prompt injection, qui injecte des instructions via des données externes comme une page web lue par le modèle — le jailbreak s'attaque directement aux politiques propres du modèle. Défenses : RLHF/safety tuning, durcissement du prompt système, filtres de sortie, garde-fous et « red teaming ». Aucune défense n'est étanche ; de nouveaux jailbreaks apparaissent sans cesse. Central en sécurité de l'IA.