AMD MI300X
Le premier GPU IA d'AMD à vraiment concurrencer le Nvidia H100. Lancé en décembre 2023. 192 Go de HBM3 (contre 80 Go pour le H100) — de quoi faire tourner des LLM plus volumineux sur un seul GPU. Architecture CDNA3. Pile logicielle ROCm.
Utilisé par Meta pour l'inférence de Llama 3, ainsi que par Microsoft Azure et Oracle Cloud. Orienté inférence : performances d'entraînement inférieures au H100, mais l'avantage en VRAM en fait un bon choix pour le service de LLM. Prix ~15-20k$ (contre 30-40k$ pour le H100). Défi logiciel : PyTorch + ROCm reste rugueux face à l'écosystème CUDA. Stratégie d'AMD : conquérir le marché de l'inférence pendant que Nvidia domine l'entraînement. MI325X (2024) : 256 Go de HBM3e. MI350X (2025) : bond important. Concurrents dans l'IA hors Nvidia : Cerebras, Groq, Habana Gaudi 3.