推論時スケーリング(Inference-time scaling)
より大きなモデルを学習させる代わりに、推論時に計算量を多く使う手法(長い思考の連鎖、ビームサーチ、MCTSなど)。2024年9月のOpenAI o1で広く知られた。
いわば「苦い教訓2.0」で、数学やコーディングのようなタスクでは、大きく訓練するより長く考えさせるほうが安上がりなことがある。o1、o3、DeepSeek-R1、Claude(拡張思考モード)、Gemini 2.0 Flash Thinkingなどが採用している。欠点は、1回の問い合わせに10〜100倍の時間がかかり、数分の計算を要することもある点だ。