RLHF
Техника, превращающая «сырую» LLM в полезного, безвредного и вежливого помощника: люди ранжируют ответы ИИ, а модель учится выдавать то, что им нравится.
Процесс: модели показывают два ответа на один вопрос, люди выбирают лучший, и модель обучают чаще выдавать «выигрышный» стиль. И так тысячи раз.
Именно поэтому Claude и ChatGPT ощущаются как собеседники, а не как автодополнение на стероидах. Заодно это основа отказов на вопросы вроде «как собрать бомбу».