Halüsinasyonu azaltma
Bir LLM'in kulağa makul gelen ama yanlış şeyler uydurmasını azaltan tekniklerin bütünü. Hiçbir yöntem halüsinasyonu tamamen ortadan kaldırmaz, ancak birkaç katman bir araya geldiğinde çıktı belirgin biçimde daha güvenilir olur.
Teknikler: kaynaklara dayandırma (RAG; modele yanıtlayacağı gerçek malzemeyi vermek, en etkili yoldur), atıf zorunluluğu (modeli her iddia için kaynağı göstermeye zorlamak, böylece dayanaksız ifadeler görünür olur), sonradan doğrulama (ikinci bir model ya da çalıştırma yanıtı doğrular), modelin "bilmiyorum" demesine izin vermek (tahmin etmeye karşı kalibre etmek), olgusal görevler için düşük temperature ve öz tutarlılık (birkaç çalıştırma, uyuşma aranır). Ayrıca yapılandırılmış çıktı ve araç kullanımı: modelin zayıf olduğu işi hesap makinesi ya da veritabanı yanıtlasın. Bedel: daha çok kontrol, daha çok maliyet ve gecikme demektir; fazla agresif önlemler de modeli aşırı çekingen yapar. Güvenilir yapay zekâ sistemleri kurmanın temel sorularından biridir.