ハルシネーション対策
LLMがもっともらしいが誤った内容をでっち上げるのを減らす技術の総称。完全になくす方法はないが、何層か重ねれば出力はかなり信頼できるものになる。
主な手法は次のとおり。情報源に基づかせる（RAG。回答の材料をモデルに実際に渡す、最も効果的な方法）、引用の要求（主張ごとに出典を示させ、根拠のない記述を目立たせる）、事後検証（別のモデルや別の実行でファクトチェックする）、「わからない」と言わせる（当て推量に対して調整する）、事実を問うタスクでは低い温度、自己整合性（複数回実行して一致を見る）。さらに、構造化出力やツール利用で、モデルが苦手な計算やデータ参照を電卓やデータベースに任せる手もある。
トレードオフは、検証を増やすほどコストと遅延が増えること、そして抑え込みすぎるとモデルが過度に慎重になることだ。信頼できるAIシステムを作るうえでの中心的な課題で、RAGやグラウンディングと深く結びついている。