ROCm
AMD:s open source GPU-compute-stack. Konkurrent till Nvidias CUDA. Lanserad 2016. Driver AMD Instinct MI300X-acceleratorerna som körs i Llama-training på Meta och bland LLM-uthyrare.
HIP är AMD:s CUDA-kompatibilitets-API — koden kompileras till antingen AMD eller Nvidia. PyTorch + JAX har officiellt ROCm-stöd sedan ~2022. Verklig adoption har varit kämpig: drivare-stabilitet, narrowt hardware-support (bara high-end-kort), färre developer-tooling. MI300X (192 GB HBM3) blev 2024 första AMD-kortet som faktiskt konkurrerade i LLM-inference vs H100. Lägre pris/byte VRAM. Konsument-GPU (RX 7900 XTX) har stöd men marginellt.