HBM3e
Geliştirilmiş HBM3. Yığın başına 1,2 TB/s (HBM3'ün 819 GB/s'sine karşı), yığın başına 24–36 GB. Nvidia H200, B100, B200 ile AMD MI300X / MI325X / MI355X'te standart. 2024'te tedariğe SK Hynix hâkim.
HBM yığınları (4–12 kalıp, 3B istiflenmiş) TSV'ler (Through-Silicon Via) aracılığıyla GPU/hızlandırıcıyla aynı paket üzerinde durur. Hızlandırıcı başına 6–8 yığın standarttır. Devasa bant genişliği, LLM çıkarımındaki darboğazı hafifletir. Fiyat: HBM3e için GB başına yaklaşık 10–15 dolar; sıradan DDR5'ten (GB başına 0,20 dolar) 50 kat pahalı. H100'ün 40.000 dolarlık etiketindeki ana maliyet budur. HBM4 (2025 ve sonrası) 1,5+ TB/s'ye ulaşır. AMD, MI300X'te HBM kapasitesine tüm gücüyle yüklendi (H100'ün 80 GB'ına karşı 192 GB) ve bunu temel satış argümanı yaptı.