AI 硬件核心是算力和存力，HBM 高带宽、低功耗优势显著，是算力性能发挥的关键。
AI 硬件核心是算力和存力，HBM 高带宽、低功耗优势显著，是算力性能发挥的关键。AI 芯片需要处理大量并行数据，要求高算力和大带宽，算力越强、每秒处理数据的速度越快，而带宽越大、每秒可访问的数据越多，算力强弱主要由 AI 芯片决定，带宽由存储器决定，存力是限制 AI 芯片性能的瓶颈之一。AI 芯片需要高带宽、低能耗，同时在不占用面积的情况下可以扩展容量的存储器。HBM 是 GDDR 的一种，定位在处理器片上缓存和传统 DRAM 之间，兼顾带宽和容量，较其他存储器有高带宽、低功耗、面积小的三大特点，契合 AI 芯片需求。HBM 不断迭代，从 HBM1 目前最新到 HBM3E，迭代方向是提高容量和带宽，容量可以通过堆叠层数或增加单层容量获得提升，带宽提升主要是通过提升 I/O 速度。
