Функция потерь
Функция, измеряющая, насколько ошибается выход модели, — именно её градиентный спуск старается минимизировать.
Классика: среднеквадратичная ошибка (MSE) для регрессии, кросс-энтропия для классификации. Выбор потерь определяет, что именно оптимизирует модель. Не та функция потерь — и модель учится не тому.