HBM
GPUやAIアクセラレータのすぐ隣に実装される垂直積層型RAM。帯域は毎秒テラバイト級に達する。
JEDEC標準で、第1世代は2013年(AMD Fury)。8〜12枚のDRAMダイをロジックベース上に積み、TSV(シリコン貫通電極)で接続して、演算チップと同じインターポーザ上に載せる。HBM3E(2024年)は1スタックあたり約1.2 TB/sに達する。NVIDIAのH100/H200/B200、AMDのMI300、GoogleのTPUが採用している。AI向け製造のボトルネックでもあり、SK hynixが先行、Samsungが追い上げに苦戦し、Micronが3番手という構図だ。