HBM
Vertikal gestapeltes RAM, direkt neben der GPU bzw. dem KI-Beschleuniger montiert — Bandbreite im Terabyte-pro-Sekunde-Bereich.
JEDEC-Standard, erste Generation 2013 (AMD Fury). 8–12 DRAM-Dies gestapelt auf einer Logikbasis, verbunden über TSV (Through-Silicon Vias), sitzen auf demselben Interposer wie der Rechenchip. HBM3E (2024) erreicht rund 1,2 TB/s pro Stack. Treibt Nvidia H100/H200/B200, AMD MI300 und Google TPU an. Ein Flaschenhals der KI-Fertigung — SK Hynix dominiert, Samsung kämpft um den Anschluss, Micron liegt auf Platz drei.