ROCm
AMDのオープンソースGPUコンピューティング・スタック。NvidiaのCUDAの対抗馬で、2016年に登場。MetaのLlama訓練やLLMホスティング事業者が使うAMD Instinct MI300Xを支える。
HIPはAMDのCUDA互換APIで、同じコードをAMDにもNvidiaにもコンパイルできる。PyTorchとJAXは2022年頃から公式にROCmをサポートしている。ただ実際の普及は苦戦してきた。ドライバーの安定性、対応ハードウェアの狭さ（ハイエンドカードのみ）、開発ツールの少なさが理由だ。192GBのHBM3を積むMI300Xは、2024年にLLM推論でH100と渡り合えた初のAMDカードとなった。VRAM容量あたりの価格が安い。コンシューマー向けGPU（RX 7900 XTX）も対応はするが、限定的だ。