Кластерный анализ
Позволить данным самим решить, какие наблюдения близки друг к другу, — без заранее размеченных меток.
Классический инструмент — k-means: выбираем k центров, относим каждую точку к ближайшему, сдвигаем центры в среднее своих точек и повторяем. Алгоритм описал Стюарт Ллойд в Bell Labs в 1957 году, но опубликовали его лишь в 1982-м; название придумал Маккуин в 1967-м. Он быстрый и всегда сходится, но только к локальному оптимуму, и k нужно задать заранее.
У альтернатив свои ответы на эти слабости. Иерархическая кластеризация строит дендрограмму и позволяет выбрать уровень потом. DBSCAN (1996) находит кластеры произвольной формы по плотности, а выбросы помечает шумом, а не заталкивает в группу. Гауссовы смеси дают «мягкую» принадлежность. Неприятный момент: любой метод всегда возвращает кластеры, даже на данных, где их нет, — поэтому проверка силуэтом или знанием предметной области обязательна.