AMD MI300X
La prima GPU di AMD per l'IA a competere davvero con l'Nvidia H100. Lanciata a dicembre 2023. 192 GB di HBM3 (contro gli 80 GB dell'H100): permette di eseguire modelli LLM più grandi su una sola GPU. Architettura CDNA3, stack software ROCm.
Usata da Meta per l'inferenza di Llama 3, da Microsoft Azure e da Oracle Cloud. Focus sull'inferenza: prestazioni di addestramento inferiori all'H100, ma il vantaggio di VRAM fa la differenza nel serving di LLM. Prezzo circa 15-20k $ (contro 30-40k $ dell'H100). La sfida è lo stack software: PyTorch + ROCm è ancora acerbo rispetto all'ecosistema CUDA. Strategia di AMD: vincere il mercato dell'inferenza mentre Nvidia domina l'addestramento. MI325X (2024): 256 GB di HBM3e. MI350X (2025): forte potenziamento. Concorrenti non Nvidia nell'IA: Cerebras, Groq, Habana Gaudi 3.