AMD MI300X
Pierwszy układ GPU AMD do AI, który naprawdę konkurował z Nvidią H100. Premiera w grudniu 2023. 192 GB HBM3 (wobec 80 GB w H100) — pozwala uruchamiać większe modele LLM na jednym GPU. Architektura CDNA3, stos programowy ROCm.
Używany przez Metę do inferencji Llamy 3, a także w Microsoft Azure i Oracle Cloud. Nacisk na inferencję: niższa wydajność treningowa niż H100, ale przewaga w VRAM oznacza zwycięstwo w serwowaniu LLM. Cena ok. 15–20 tys. USD (wobec 30–40 tys. za H100). Wyzwanie programowe: PyTorch + ROCm nadal ustępuje ekosystemowi CUDA. Strategia AMD: wygrać rynek inferencji, gdy Nvidia dominuje w treningu. MI325X (2024): 256 GB HBM3e. MI350X (2025): wyraźny skok. Konkurenci spoza Nvidii: Cerebras, Groq, Habana Gaudi 3.