Tasa de aprendizaje
El tamaño de los pasos que da el modelo al actualizar sus pesos — el hiperparámetro que más importa.
Demasiado alta y el modelo rebota alrededor del mínimo hasta divergir; demasiado baja y el entrenamiento no termina nunca, o se queda atascado en el primer valle que encuentre. La práctica actual no usa un valor fijo: se arranca con un warmup y luego se va reduciendo según un calendario, normalmente un cosine annealing.