Halluzinationsminderung
Die Sammlung von Techniken, um zu verringern, dass ein LLM plausibel klingende, aber falsche Dinge erfindet. Keine Methode eliminiert Halluzinationen vollständig, aber mehrere Schichten zusammen machen die Ausgabe deutlich verlässlicher.
Techniken: in Quellen verankern (RAG — dem Modell tatsächliches Material zum Antworten geben, die wirksamste Methode), Zitierpflicht (das Modell zwingen, für jede Aussage auf die Quelle zu verweisen, damit unbelegte Behauptungen auffallen), nachträgliche Verifikation (ein zweites Modell oder ein zweiter Durchlauf prüft die Antwort), das Modell "weiß ich nicht" sagen lassen (gegen das Raten kalibrieren), niedrige Temperature für Faktenaufgaben und Self-Consistency (mehrere Durchläufe, nach Übereinstimmung suchen). Außerdem: strukturierte Ausgabe und Werkzeugnutzung (einen Taschenrechner oder eine Datenbank das beantworten lassen, worin das Modell schwach ist). Kompromiss: mehr Kontrollen bedeuten mehr Kosten/Latenz, und zu aggressive Minderung macht das Modell übervorsichtig. Eine Kernfrage beim Bau verlässlicher KI-Systeme. Hängt zusammen mit RAG und Grounding.