Anayasal Yapay Zekâ
Anthropic'in eğitim yöntemi: bir LLM, her örneği insanlara etiketletmeden, kendi yanıtlarını eleştirip düzelterek yazılı bir "anayasayı" (ilkeler bütünü) izlemeyi öğrenir.
İki adım: (1) denetimli öğrenme — model yanıt üretir, ilkelere göre eleştirir ve yeniden yazar; (2) RLAIF (Reinforcement Learning from AI Feedback) — ayrı bir model aynı ilkelere göre yanıtlar arasında seçim yapar.
Saf RLHF'ten daha iyi ölçeklenir (daha az insan etiketlemesi) ve değerleri denetlenebilir kılar — anayasayı okuyabilirsiniz. Claude ailesinde 2022'den beri kullanılıyor.