Cómputo en tiempo de inferencia (test-time compute)
La idea de gastar más cómputo en la inferencia (no en el entrenamiento) — dejar que el modelo piense más, genere más respuestas candidatas y elija la mejor.
Investigaciones de DeepMind y OpenAI en 2024 mostraron que un modelo más pequeño con 10 veces más presupuesto de inferencia puede superar a uno 10 veces más grande con decodificación estándar. Técnicas: cadenas de pensamiento largas (o1, R1), muestreo best-of-N, búsqueda en árbol (ToT), modelos de recompensa por proceso.
El cambio alteró la economía del despliegue de LLM — la inferencia se encarece por consulta, pero el entrenamiento se amortiza. Todo el paradigma de los "modelos de razonamiento" es, en la práctica, escalado de cómputo en tiempo de inferencia.