AI技术和应用生态的突飞猛进，给人们的工作、生活带来了深远影响。同时人们也发现，内存价格如同坐了火箭一样，彻底打破了多年来“产能过剩、迭代降价、逐年亲民”的固有规律，然后手机、笔记本电脑纷纷减配或者涨价，台式机DIY更是瞬间无人问津，这背后元凶就是HBM内存。
HBM英文全称是High Bandwidth Memory（高带宽内存），是专为AI训练、高性能计算而生的高端存储产品，从底层原理和应用场景看依然属于DRAM动态随机存取存储器的范畴，和我们电脑、手机中常用的DDR4、DDR5普通内存同源但不同形态。例如下图的NVIDIA H200搭载了HMB3e内存，就是绕着GPU核心的6个方形的HBM晶片堆栈，与CPU并列集成在同一中介层（Interposer）基板上。
从原理来看，传统DDR内存采用的是平面平铺式的封装布局，芯片引脚数量有限，数据传输的通道宽度、传输速度都被物理结构限制，容量和性能提升较为困难，只能满足普通运算、入门AI应用的需求。
而HBM革新了封装架构，采用3D垂直堆叠工艺搭配TSV硅通孔技术，将数十颗DRAM芯片垂直层层堆叠（是不是很熟悉？），再通过微米级的精密硅通孔，实现每一层芯片之间的高速互联，传输距离更短、信号损耗极低，让内存的数据吞吐能力实现量级跃升，并能避免GPU因等待数据而闲置，是AI芯片的核心配套资源。
从性能看，每堆HBM的总线宽度可达1024位甚至2048位，而普通DDR5内存只有64位，相当于从“乡间小道”升级成"高速公路"，单位时间能传输的数据量呈数量级增长。带宽方面，显卡上的GDDR6内存仅有约0.064TB/s的带宽，而HBM3e单堆栈带宽可达1.2TB/s，HBM4可达3.3TB/s以上，“供料速度”是GDDR的近20倍。容量方面，
HBM能够主导存储市场定价，根源在于供需错配与产能虹吸效应。自2023年全球AI产业全面爆发以来，布局AI算力中心、搭建算力集群对于HBM内存的需求呈现爆炸式增长。同时，HBM内存生产技术壁垒极高，市场的产能几乎完全被SK海力士、美光等存储巨头垄断，甚至2026年、2027年的产能订单已全部售罄，导致HBM内存价格持续飙升，单品利润率是普通DDR内存的数倍甚至数十倍。
为了抢占高端市场、赚取高额利润，存储厂商纷纷调整整体产能结构，将核心产线、高端设备、技术团队全部倾斜至HBM产品的研发和生产，并主动削减传统DDR内存产能，直接导致DDR供货量持续收紧，价格自然水涨船高。而我们能做的，除了努力赚钱就只剩下等待了。
【来源：ZOL中关村在线】
