ハルシネーション（AI）

LLMが学習しているのは「もっともらしい」文章を出すことであって、「正しい」文章を出すことではない。あまり知られていない人物や具体的な日付を尋ねると、一見もっともらしいが完全に捏造された答えを返すことがある。

対策としては、出典テキストだけから答えさせるRAG、プロンプトでの引用の要求、事実重視のデータセットによるファインチューニング、人間によるレビューなどがある。