Cluster de GPUs
Centenas a dezenas de milhares de GPUs interligadas para treinamento de IA em larga escala. Escala de hyperscaler: Meta com 24 mil H100, xAI com 100 mil H100 no Colossus, Microsoft+OpenAI com uma obra de bilhões de dólares. Malha de NVLink + InfiniBand.
Topologia: 8 GPUs por "nó" via NVLink (900 GB/s entre GPUs), e os nós ligados entre si por InfiniBand (400 Gbps NDR por porta). 1000 H100 custam cerca de US$ 30 milhões em hardware, mais US$ 5–10 milhões por ano de eletricidade. Um treinamento clássico de LLM de fronteira: 16 mil GPUs × 30 dias. Em 2024 o gargalo mudou: energia elétrica e construção de datacenters passaram a pesar mais que o fornecimento de chips. Provedores como Lambda Labs, CoreWeave e Crusoe Energy oferecem "GPU como serviço" a laboratórios de IA. O cluster da xAI em Memphis (2024–2025), com roteiro de 100 mil → 200 mil → 1 milhão de GPUs, é polêmico pelo impacto na rede elétrica.