ゼロショット学習
例を一つも見せず、指示だけでモデルにタスクを解かせること。対になるのが、数例をプロンプトに入れるfew-shot、1例のone-shot、大量の例で学習するファインチューニングである。
2020年のGPT-3の論文は、大規模LLMが多くのタスクをゼロショットでこなせることを鮮やかに示した。現代のLLM(GPT-4以降、Claude、Gemini)は、ほぼ何でもゼロショットで処理する。以前の機械学習では、タスクごとにラベル付きデータで学習するのが普通だった。ゼロショットは汎化能力の強い指標とされ、MMLUやHumanEvalなどのベンチマークで測られる。
それでもfew-shotが有効な場面は残る。ドメイン固有の出力形式、例があると助かる複雑な推論、プロンプト設計が結果を左右する重要なタスクなどだ。