Descenso de gradiente
El algoritmo de optimización que entrena a casi todos los modelos de aprendizaje automático: pasos pequeños en la dirección que más reduce el error.
La analogía habitual: estás en una montaña con niebla y quieres bajar. Palpas la pendiente, das un paso cuesta abajo y repites. Las variantes —SGD, Adam, AdamW— parten todas de esa misma idea, con trucos distintos para elegir el tamaño del paso y no quedarse atascado.