HBM (High Bandwidth Memory)
RAM impilata in verticale e montata accanto alla GPU o all'acceleratore di IA, con una banda dell'ordine dei terabyte al secondo.
Standard JEDEC, prima generazione nel 2013 (AMD Fury). Da 8 a 12 die DRAM impilati su un die logico di base, collegati tramite TSV (through-silicon via) e posti sullo stesso interposer del chip di calcolo. HBM3E (2024) raggiunge circa 1,2 TB/s per stack. Alimenta Nvidia H100/H200/B200, AMD MI300 e Google TPU. Un collo di bottiglia produttivo per l'IA: SK Hynix domina, Samsung fatica a recuperare, Micron è terza.