Hallucination-mitigering
Samlingen av tekniker för att minska att en LLM hittar på saker som låter trovärdiga men är fel. Ingen metod eliminerar hallucinationer helt, men flera lager tillsammans gör output betydligt mer pålitlig.
Tekniker: grunda i källor (RAG — ge modellen faktiskt material att svara utifrån, det mest effektiva), citatkrav (tvinga modellen att peka på källan för varje påstående, så ogrundade påståenden syns), verifiering i efterhand (en andra modell/körning faktagranskar svaret), låt modellen säga "vet inte" (kalibrera mot att gissa), låg temperatur för faktauppgifter, och self-consistency (flera körningar, leta efter samstämmighet). Också: structured output och verktygsanvändning (låt en kalkylator/databas svara på det modellen är dålig på). Avvägning: fler kontroller = mer kostnad/latens, och för aggressiv mitigering gör modellen överförsiktig. En kärnfråga i att bygga pålitliga AI-system. Hör ihop med RAG och grounding.