ジェイルブレイク
LLMを騙して安全規則を回避させること。「DAN」（Do Anything Now）、「ロールプレイして」、暗号化した指示などがある。
入力データに指示を紛れ込ませるプロンプトインジェクションと違い、ジェイルブレイクはガードレールを出し抜く直接的な試みである。2023〜2024年にはちょっとした競技の様相を呈した。モデルはずっと頑健になったが、新しい手口は今も現れる。
LLMを騙して安全規則を回避させること。「DAN」（Do Anything Now）、「ロールプレイして」、暗号化した指示などがある。
入力データに指示を紛れ込ませるプロンプトインジェクションと違い、ジェイルブレイクはガードレールを出し抜く直接的な試みである。2023〜2024年にはちょっとした競技の様相を呈した。モデルはずっと頑健になったが、新しい手口は今も現れる。