Self-play
Een AI-agent speelt tegen zichzelf om beter te worden — een klassieke reinforcementlearningtechniek die door AlphaGo Zero (2017) beroemd werd en nu ook voor redeneren en alignment van LLM's wordt gebruikt.
SPIN (Self-Play Fine-Tuning, 2024) laat LLM's zichzelf verbeteren zonder menselijke feedback, en Self-Rewarding Language Models (Meta, 2024) gaan nog een stap verder. Het risico is modecollaps: het model blijft hangen in triviale antwoorden. Self-play is ook de basis van alignment via debat (Irving en Christiano, 2018), waarbij twee LLM's met elkaar in discussie gaan en een derde de winnaar kiest.