GPUクラスター
大規模なAI学習のために数百〜数万基のGPUを相互接続したもの。Metaの2.4万基のH100、xAIの10万基のH100「Colossus」、MicrosoftとOpenAIの数十億ドル規模の構築が代表例で、NVLinkとInfiniBandのファブリックで結ばれる。
構成はこうだ。8基のGPUを1つの「ノード」としてNVLinkで結び（GPU間で900 GB/s）、ノード同士はInfiniBand（1ポートあたり400 Gbps NDR）でつなぐ。H100を1000基そろえるとハードウェアだけで約3000万ドル、電気代が年に500万〜1000万ドルかかる。フロンティア級LLMの典型的な学習は、1.6万基のGPUで30日ほど。2024年以降のボトルネックはチップの供給から電力とデータセンターの建設へ移った。Lambda Labs、CoreWeave、Crusoe Energyのような事業者が「GPU-as-a-Service」としてAI研究所に貸し出している。xAIのメンフィスのクラスター（2024〜2025年）は10万基から20万基、さらに100万基というロードマップを掲げ、電力網への負荷が論争を呼んだ。