リフレクションループ
LLMが自分の出力を評価して誤りを見つけ、新しい試行を生成する。納得するまでこれを繰り返す。2023年のNoah Shinnによる「Reflexion」論文が有名。
再学習なしで自己改善できる。AutoGPT、BabyAGI、OpenAI o1（推論時にリフレクションを含む思考の連鎖）などのエージェントで使われている。リスクは、正しい答えを誤りだと思い込む自信満々の誤答と、無限ループ。テスト、コンパイラ、電卓のような外部の検証手段と組み合わせることが多い。
LLMが自分の出力を評価して誤りを見つけ、新しい試行を生成する。納得するまでこれを繰り返す。2023年のNoah Shinnによる「Reflexion」論文が有名。
再学習なしで自己改善できる。AutoGPT、BabyAGI、OpenAI o1（推論時にリフレクションを含む思考の連鎖）などのエージェントで使われている。リスクは、正しい答えを誤りだと思い込む自信満々の誤答と、無限ループ。テスト、コンパイラ、電卓のような外部の検証手段と組み合わせることが多い。