RAG
Die Technik, bei der eine KI zuerst in einer Wissensbasis sucht und die Antwort dann auf Basis des Gefundenen formuliert.
Die Lösung für zwei Probleme reiner LLMs: Sie können nichts wissen, was nach ihrem Training passiert ist, und sie neigen zum Halluzinieren. Mit RAG durchsucht man die eigenen Daten (Website-Inhalte, Dokumentation, Wissensdatenbank) und lässt das Modell nur darauf basierend antworten.
Technisch: Daten in Abschnitte zerlegen → Embeddings erzeugen → bei einer Anfrage die Frage embedden, die nächstliegenden Abschnitte finden und sie als Kontext an das LLM schicken.