Дерево решений
Классический алгоритм ML: древовидная структура, где каждый внутренний узел — проверка признака, а каждый лист — решение. Интерпретируемо, масштабирование признаков не нужно. Основа Random Forest и XGBoost.
Классические алгоритмы: ID3 (Куинлан, 1986), C4.5, CART (Брейман). Разбиение идёт по информационному выигрышу или неопределённости Джини. Риск — переобучение, лечится отсечением ветвей. В соревнованиях по ML сегодня правят ансамбли: Random Forest (бутстреп-агрегирование множества деревьев), XGBoost, LightGBM и CatBoost (градиентный бустинг, побеждают на Kaggle). Главный козырь против нейросетей — интерпретируемость в регулируемых отраслях (медицина, финтех).