Skalowanie w czasie inferencji
Wydawanie większej mocy obliczeniowej w trakcie inferencji (dłuższy chain-of-thought, beam search, MCTS) zamiast trenowania większego modelu. Rozsławił je OpenAI o1 (wrzesień 2024).
„Gorzka lekcja 2.0” — w niektórych zadaniach (matematyka, programowanie) taniej jest myśleć dłużej, niż trenować większy model. Korzystają z tego o1, o3, DeepSeek-R1, Claude (tryb extended thinking) i Gemini 2.0 Flash Thinking. Wada: każde zapytanie trwa 10–100 razy dłużej i może kosztować minuty obliczeń.