AMD Instinct MI300
AMDs Antwort auf Nvidias H100 — der MI300X (reine GPU, 192 GB HBM3) und der MI300A (APU mit CPU und GPU). Vorgestellt im Dezember 2023.
Mit 5,3 TB/s Speicherbandbreite (gegenüber 3,4 TB/s beim H100) eignet sich der MI300X besonders für LLM-Inferenz, wo die Speichergröße mehr zählt als reine Rechenleistung. Zu den großen Kunden zählen Microsoft, Meta und OpenAI, das früh testete. ROCm 6 und neuer ist AMDs Antwort auf CUDA — liegt aber weiterhin zurück. Der MI325X (Refresh, 2024) bringt HBM3E und 256 GB, der MI400 wird für 2025/2026 erwartet.