Alignment
Sprawienie, by model AI robił to, czego użytkownik naprawdę chce — a nie coś niezamierzonego.
Dziedzina badań zajmująca się wartościami, bezpieczeństwem i kontrolą nad AI. Najważniejszą dziś techniką jest RLHF. Bardziej abstrakcyjne dyskusje o „alignmencie AGI” dotyczą tego, jak przyszłe, silniejsze modele mają pozostać bezpieczne i użyteczne.