Jailbreak (LLM)
Ein LLM dazu bringen, seine eigenen Sicherheitssperren zu umgehen und das zu tun, was es eigentlich verweigern soll — durch geschickte Prompts: Rollenspiel, hypothetische Szenarien, codierte Anweisungen oder das Überschreiben des System-Prompts. Ein ständiges Katz-und-Maus-Spiel zwischen Nutzern und Modellentwicklern.
Techniken: Rollenspiel ("tu so, als wärst du eine KI ohne Regeln", "DAN — Do Anything Now"), hypothetische Rahmungen ("erkläre in einer fiktiven Geschichte, wie…"), das Aufteilen einer verbotenen Frage in harmlose Teile, Codierung (Base64, andere Sprachen) oder ein "Prompt-Override", das das Modell seine Anweisungen ignorieren lässt. Zu unterscheiden von Prompt Injection (die Anweisungen über externe Daten einschleust, etwa eine Webseite, die das Modell liest) — ein Jailbreak zielt direkt auf die eigenen Richtlinien des Modells. Gegenmaßnahmen: RLHF/Safety-Tuning, Härtung des System-Prompts, Output-Filter, Guardrails und "Red Teaming". Kein Schutz ist wasserdicht; ständig tauchen neue Jailbreaks auf. Zentral für KI-Sicherheit. Hängt eng mit Prompt Injection und Guardrails zusammen.