IT用語集 › AI & 機械学習 › アライメント
AIモデルに、ユーザーが本当に望むことをさせ、意図しないことをさせないようにすること。
AIの価値観、安全性、制御を扱う研究分野。現在最も重要な手法はRLHFである。より抽象的な「AGIのアライメント」の議論は、将来のより強力なモデルをどう安全で有用に保つかを扱う。