ROCm
A stack open source de computação em GPU da AMD. Concorrente do CUDA da Nvidia. Lançada em 2016. Move os aceleradores AMD Instinct MI300X usados no treino do Llama na Meta e em provedores de LLM.
HIP é a API de compatibilidade com CUDA da AMD — o código compila tanto para AMD quanto para Nvidia. PyTorch e JAX suportam oficialmente o ROCm desde cerca de 2022. Na prática, a adoção foi áspera: estabilidade de drivers, suporte restrito a hardware (só placas topo de linha) e ferramental menos maduro. A MI300X (192 GB de HBM3) tornou-se, em 2024, a primeira placa da AMD a competir de verdade em inferência de LLMs contra a H100, com preço menor por byte de VRAM. GPUs de consumo (RX 7900 XTX) têm suporte, mas marginal.