ジェイルブレイク（LLM）
巧妙なプロンプトで LLM に自らの安全対策を回避させ、本来拒否するよう訓練された内容に応じさせること。ユーザーとモデル開発者のいたちごっこである。
手口には、ロールプレイ（「ルールのない AI のふりをして」「DAN ― Do Anything Now」）、仮定の枠組み（「フィクションとして説明して」）、禁止された質問を無害な断片に分割する方法、エンコード（base64 や他言語）、システムプロンプトを無視させる「プロンプトの上書き」などがある。外部データ（モデルが読む Web ページなど）経由で指示を紛れ込ませるプロンプトインジェクションとは別物で、ジェイルブレイクはモデル自身のポリシーを直接狙う。
防御策は RLHF などの安全性チューニング、システムプロンプトの強化、出力フィルタ、ガードレール、レッドチーミングなど。完全に防げるものはなく、新しい手法は絶えず現れる。AI セーフティの中心的な課題である。