RLAIF
Reinforcement Learning from AI Feedback: vervangt de menselijke beoordelaars in RLHF door een AI-beoordelaar; artikelen van Anthropic en Google uit 2023.
De belofte: het schaalt eindeloos, want er hoeven geen beoordelaars geworven te worden. Het risico: versterking van vooroordelen, omdat de AI-beoordelaar zijn eigen bias heeft. Volgens het Google-artikel "RLAIF vs RLHF" (2023) is de kwaliteit op de meeste benchmarks vergelijkbaar met RLHF. Gebruikt door Claude (via Constitutional AI), Gemini en diverse open-sourcemodellen.