AMD Instinct MI300
La réponse d'AMD au H100 de Nvidia — MI300X (GPU seul, 192 Go de HBM3) et MI300A (APU associant CPU et GPU). Lancés en décembre 2023.
Les 5,3 To/s de bande passante mémoire (contre 3,4 To/s pour le H100) rendent le MI300X attrayant pour l'inférence de LLM, où la taille de la mémoire compte plus que la puissance de calcul. Gros clients : Microsoft, Meta, OpenAI (testeurs de la première heure). ROCm 6+ est le concurrent de CUDA chez AMD — toujours en retrait. MI325X (mise à jour de 2024) : HBM3E, 256 Go. MI400 attendu en 2025-2026.