Entrenamiento en tiempo de inferencia (test-time training)
Actualizar los pesos del modelo durante la propia inferencia, en lugar de dejarlos fijos — el modelo se adapta al ejemplo concreto que tiene delante.
Una variante ajusta los pesos por cada consulta a partir de unos pocos ejemplos específicos del problema (few-shot) antes de responder: el trabajo original es de Sun et al. (2020), retomado en 2024 por Sakana AI sobre ARC-AGI y por un paper del Goodhart Lab del MIT que mostró a TTT superar el estado del arte. Los modos van desde un ajuste LoRA por consulta hasta el fine-tuning completo sobre soluciones candidatas con selección posterior — un enfoque caro, porque cada consulta equivale a una mini sesión de entrenamiento, pero prometedor para razonamiento few-shot fuera de distribución.
Otra variante, TTT-Linear y TTT-MLP (Stanford y CMU, julio de 2024), sustituye la atención por una pequeña RNN que se entrena sobre su propia secuencia mientras la procesa, con resultados competitivos frente a Mamba y los Transformers. La diferencia con el aprendizaje in-context es que aquí hay actualizaciones de gradiente reales durante la inferencia, no solo un patrón de activación. Cómo agrupar en batch ejemplos que terminan cada uno con sus propios pesos sigue siendo un problema abierto.