随着人工智能的兴起，对于内存芯片的需求也逐步增加，HBM（高带宽内存）芯片成为炙手可热的产品。美光正在扩大 HBM芯片的生产，在美国建立测试生产线，扩大台湾的产能，并考虑在马来西亚生产 HBM。目标是到 2025 年将其人工智能内存芯片 HBM 的市场份额提高三倍，达到“20% 左右”。
美国正在寻求盟友的进一步帮助，以遏制中国的半导体野心，这一次也是在人工智能内存芯片 HBM 方面。一位美国高级官员将访问日本和荷兰，寻求对芯片设备制造商东京电子（日本）和 ASML（荷兰）在中国的活动进行更多限制。
三星将于 2025 年推出“SAINT”3D 封装服务，为 HBM4 做准备。
一时之间，科技巨头的关注点都聚焦在了HBM芯片上，那么它到底是什么呢？
HBM的基础知识
它的全称为High Bandwidth Memory，是一种基于3D堆栈工艺的高性能DRAM。具有高性能、高带宽、高容量、低功耗、高可靠性的图形处理器内存，是当前GPU存储单元的理想解决方案，并被广泛应用于高性能计算、人工智能和图形处理等领域。
HBM通过在垂直方向上堆叠多个DRAM芯片来实现高速、高带宽的内存访问。然后再用硅通孔（TSV）和微凸块等先进封装技术，将多个DRAM芯片紧密堆叠在一起，形成大容量、高带宽的DDR组合阵列。类似于堆积木。
相较于传统的GDDR内存，在显存位宽、时钟频率和显存带宽上，HBM均有大幅提升。例如，HBM显存的位宽为1024-bit，是GDDR5显存的32-bit的4倍。
HBM的容量也比传统GDDR内存大得多，可以达到数百GB或数千GB的级别，满足高性能计算、图形处理和数据中心等领域对内存带宽和容量的需求。
HBM采用了新的制造工艺和结构设计，使其能够实现更低的功耗，这不仅可以延长电池寿命，还可以提高设备的稳定性和可靠性。
HBM采用了多层堆叠技术，将多个芯片堆叠在一起，从而减少故障率和提高可靠性。此外，HBM还采用了先进的散热技术，可以有效地降低温度，保护芯片免受过热的影响。
有哪些品牌？
目前生产HBM内存的主要品牌为SK海力士、美光科技以及三星。当然还有其他品牌的产品，但以这三家占主导地位。
其中SK海力士是首家实现HBM3E量产的供应商。其HBM3E产品每秒可处理超过1TB的数据，相当于在1秒内可处理230部全高清（FHD）级电影。SK海力士的HBM3E采用了MR-MUF技术，散热性能较上一代产品提高了10%，达到了全球最高水平。
美光科技也开始批量生产HBM3E内存，其中24GB 8H HBM3E产品将供货英伟达，并应用于NVIDIA H200 TensorCore GPU。
三星也是主要生产厂商，其2023年HBM市场占有率预计为38%。不过其最新的产品似乎没有通过NVIDIA的审核，不能供货。
应用领域
HBM内存凭借其高带宽、低延迟、低功耗等特性，在人工智能、高性能计算、数据中心、图形处理、自动驾驶和网络通信等领域发挥着重要作用。
在人工智能领域，HBM提供高带宽、低延迟的内存支持，有助于提高人工智能模型的训练和推理效率。在处理大规模数据处理与神经网络训练时，HBM的高带宽和低功耗特性能够显著提升计算性能。
在自动驾驶领域，HBM内存可以提升自动驾驶系统需要处理大量的传感器数据的效率，
加速自动驾驶系统的数据处理和决策过程
在图形处理方面，HBM显存可以提供更高的带宽，提升图形处理器的性能，从而实现更流畅的图形渲染和更高的分辨率。
总结：
HBM高带宽内存以其高带宽、低延迟、低功耗等特性，在人工智能、高性能计算、数据中心、图形处理等领域获得了广泛的应用。未来随着各个行业数据量的增加，HBM内存的应用也会更广泛。
