Taux d'apprentissage
La taille des pas que le modèle de ML fait en mettant à jour ses poids — l'hyperparamètre le plus important.
Trop élevé : le modèle « rebondit » et diverge. Trop bas : l'entraînement prend une éternité. Pratique moderne : programme de warmup + decay, ou « cosine annealing ».