AMD Instinct MI300
NvidiaのH100に対するAMDの回答。GPU専用で192GBのHBM3を積むMI300Xと、CPUとGPUを統合したAPUのMI300Aがある。2023年12月発売。
5.3TB/sのメモリ帯域幅(H100は3.4TB/s)により、演算性能よりメモリ容量が物を言うLLM推論で魅力的な選択肢となる。主な顧客はMicrosoft、Meta、OpenAI(初期テスター)。AMDのCUDA対抗であるROCm 6以降は、依然として後れを取っている。2024年のリフレッシュ版MI325XはHBM3Eで256GB。MI400は2025〜2026年に登場する見込み。