Tasso di apprendimento
L'ampiezza dei passi con cui un modello di ML aggiorna i pesi: l'iperparametro più importante.
Troppo alto: il modello «rimbalza» e diverge. Troppo basso: l'addestramento non finisce mai. Prassi moderna: warmup più una schedule di decadimento, oppure il «cosine annealing».