インストラクトモデル(Instruct)
続きの文章を書くだけでなく、質問に答えたり指示に従ったりするよう微調整された LLM のこと。
GPT-3 のような素のベースモデルはオートコンプリートは得意でも、「これを要約して」という依頼は苦手だった。2022年の InstructGPT が、今日のチャットモデルへの最初の大きな一歩である。現在では Llama-3-8B-Instruct のように「Instruct」を名前に付けるのが一般的だ。
続きの文章を書くだけでなく、質問に答えたり指示に従ったりするよう微調整された LLM のこと。
GPT-3 のような素のベースモデルはオートコンプリートは得意でも、「これを要約して」という依頼は苦手だった。2022年の InstructGPT が、今日のチャットモデルへの最初の大きな一歩である。現在では Llama-3-8B-Instruct のように「Instruct」を名前に付けるのが一般的だ。