Alignment (согласование ИИ)
Добиться, чтобы модель ИИ делала то, чего пользователь действительно хочет, а не что-то непредусмотренное.
Область исследований о ценностях, безопасности и контроле над ИИ. Важнейший на сегодня метод — RLHF. Более абстрактные дискуссии об «AGI alignment» касаются того, как будущие, более сильные модели останутся безопасными и полезными.