Hallucinatiebeperking
De verzameling technieken om te verminderen dat een LLM aannemelijk klinkende maar onjuiste dingen verzint. Geen methode elimineert hallucinaties volledig, maar meerdere lagen samen maken de uitvoer aanzienlijk betrouwbaarder.
Technieken: verankeren in bronnen (RAG — het model echt materiaal geven om uit te antwoorden, het effectiefst), bronvermelding eisen (per bewering een bron, zodat ongegronde uitspraken opvallen), verificatie achteraf (een tweede model of run controleert het antwoord), het model ‘weet ik niet’ laten zeggen, een lage temperature voor feitelijke taken en self-consistency (meerdere runs, zoeken naar overeenstemming). Ook: gestructureerde uitvoer en tool use, zodat een rekenmachine of database beantwoordt wat het model slecht kan. Keerzijde: meer controles kosten tijd en geld, en te agressieve beperking maakt het model overdreven voorzichtig.