Kueue
Система очередей пакетных заданий для Kubernetes: проект CNCF под sig-scheduling, GA в 2024 году.
Штатный планировщик Kubernetes ориентирован на поды, а не на задания, и ему не хватает справедливого распределения, квот и gang-планирования, которые нужны HPC и ML. Kueue вводит ClusterQueue (пул квоты), LocalQueue (привязана к неймспейсу) и Workload (группа подов). Через механизм cohort несколько ClusterQueue делят ресурсы с приоритетами и вытеснением. Для обучения моделей это важно: нужны все 8 GPU сразу или ни одного, а не частичное размещение. Интегрируется с JobSet, Argo Workflows и Ray. Конкуренты: Volcano (CNCF incubating) и Yunikorn (Apache).