AMD MI300X
Первый ИИ-GPU AMD, по-настоящему конкурирующий с Nvidia H100. Вышел в декабре 2023 года. 192 ГБ HBM3 (у H100 — 80 ГБ), поэтому на одном GPU помещаются более крупные LLM. Архитектура CDNA3, программный стек ROCm.
Используется в Meta для инференса Llama 3, а также в Microsoft Azure и Oracle Cloud. Упор на инференс: производительность в обучении ниже, чем у H100, но преимущество по VRAM даёт выигрыш при обслуживании LLM. Цена около $15–20 тыс. (у H100 — $30–40 тыс.). Проблема — программный стек: PyTorch на ROCm всё ещё уступает экосистеме CUDA. Стратегия AMD — занять рынок инференса, пока Nvidia доминирует в обучении. MI325X (2024): 256 ГБ HBM3e. MI350X (2025): серьёзный скачок. Среди не-Nvidia ИИ-конкурентов — Cerebras, Groq, Habana Gaudi 3.