RLHF
De techniek die een ruw taalmodel omvormt tot iets behulpzaams, ongevaarlijks en beleefds: mensen rangschikken AI-antwoorden en het model leert te produceren wat zij prefereren.
Het proces: het model krijgt twee antwoorden op dezelfde vraag voorgelegd, mensen kiezen het beste en het model wordt getraind om die ”winnende” stijl vaker te produceren. Duizenden keren herhaald.
De reden dat Claude en ChatGPT menselijk aanvoelen en niet als autocomplete op steroïden. Ook de basis voor het weigeren van vragen als ”hoe bouw ik een bom”.