Karar ağacı
Klasik bir ML algoritması: her iç düğüm bir özellik testi, her yaprak bir karardır; yorumlanabilir ve özellik ölçeklemesi gerektirmez. Rastgele Orman ve XGBoost'un temelidir.
Klasik algoritmalar: ID3 (Quinlan, 1986), C4.5 ve CART (Breiman). Bölme, bilgi kazancına veya Gini safsızlığına göre yapılır. Risk aşırı öğrenmedir; çare budamadır. Modern ML yarışmalarına topluluk yöntemleri hâkimdir: Rastgele Orman (çok sayıda ağacın bootstrap ile toplanması) ve Kaggle'ı kazanan gradyan artırma yöntemleri XGBoost, LightGBM ve CatBoost. Düzenlemeye tabi sektörlerde (tıp, finansal teknoloji) yorumlanabilirlik, sinir ağlarına karşı en büyük artıdır.