Alinhamento
Fazer com que um modelo de IA faça o que o usuário realmente quer — e não algo indesejado.
Campo de pesquisa sobre valores, segurança e controle de IA. O RLHF é a técnica mais importante hoje. As discussões mais abstratas sobre "alinhamento de AGI" tratam de como manter modelos futuros e mais poderosos seguros e úteis.