AMD MI300X
La primera GPU de IA de AMD que compitió de verdad con el Nvidia H100. Lanzada en diciembre de 2023. 192 GB de HBM3 (frente a los 80 GB del H100) — permite ejecutar modelos LLM más grandes en una sola GPU. Arquitectura CDNA3. Pila de software ROCm.
Usada por Meta para la inferencia de Llama 3, por Microsoft Azure y por Oracle Cloud. Enfoque en inferencia: rinde menos que el H100 en entrenamiento, pero la ventaja de VRAM se traduce en ganancia al servir LLM. Precio de ~15.000-20.000 $ (frente a los 30.000-40.000 $ del H100). El reto de la pila de software: PyTorch + ROCm sigue siendo más tosco que el ecosistema CUDA. Estrategia de AMD: ganar el mercado de inferencia mientras Nvidia domina el entrenamiento. El MI325X (2024): 256 GB de HBM3e. El MI350X (2025): un salto notable. Competidores dentro de la IA sin Nvidia: Cerebras, Groq, Habana Gaudi 3.