HyDE
Hypothetical Document Embeddings — eine Retrieval-Technik, bei der zunächst ein LLM eine erfundene "Idealantwort" auf die Frage generiert und dann mit dem Embedding dieser Antwort statt der Frage gesucht wird. Die Idee: Eine hypothetische Antwort ähnelt den echten Dokumenten mehr als die Frage selbst.
Problem: Eine kurze Frage ("Wie funktioniert Photosynthese?") und ein ausführliches Antwortdokument sehen im Embedding-Raum unterschiedlich aus (eine Vokabular- und Formlücke) → das Embedding der Frage trifft nicht immer gut. HyDE lässt das Modell eine hypothetische Antwort generieren (selbst wenn sie Fehler enthält — das spielt eine geringere Rolle), embeddet sie und nutzt diesen Vektor für die Suche. Weil die hypothetische Antwort wie ein echtes Dokument formuliert ist, landet sie im Vektorraum näher an den echten Antworten → bessere Treffer, besonders im Zero-Shot-Fall. Abwägung: ein zusätzlicher Generierungsschritt (Latenz/Kosten), der irreführen kann, wenn das Thema dem Modell völlig unbekannt ist. Eine von mehreren Query-Transformationstechniken. Gehört zusammen mit Query Expansion und Embedding-Modell.