AMD MI300X
AMD:s första AI-GPU som verkligen konkurrerade med Nvidia H100. Lanserad december 2023. 192 GB HBM3 (vs H100:s 80 GB) — kan köra större LLM-modeller på en GPU. CDNA3-arkitektur. ROCm-software-stack.
Använd av Meta för Llama 3 inference, Microsoft Azure, Oracle Cloud. Inference-fokus: lägre training-prestanda än H100, men VRAM-fördel = win för LLM-serving. Pris ~$15-20k (vs H100 $30-40k). Software-stack-utmaning: PyTorch + ROCm fortfarande haltigt vs CUDA-ekosystemet. AMD-strategi: vinn inference-marknad medan Nvidia dominerar training. MI325X (2024): 256 GB HBM3e. MI350X (2025): kraftig boost. Konkurrenter inom non-Nvidia AI: Cerebras, Groq, Habana Gaudi 3.