Цикл рефлексии
LLM оценивает собственный ответ, находит ошибки и делает новую попытку — и так, пока результат не устроит. Статья «Reflexion» Noah Shinn, 2023 год.
Самосовершенствование без дообучения. Приём используется в агентных фреймворках — AutoGPT, BabyAGI, а также в OpenAI o1 (цепочка рассуждений с рефлексией во время инференса).
Риски: модель может уверенно ошибаться (счесть верный ответ неверным) или уйти в бесконечный цикл. Поэтому часто добавляют внешний проверяющий — тесты, компилятор, калькулятор.