美光宣布，已开始批量生产HBM3E，将用于英伟达H200，该GPU计划在2024年第二季度开始发货。美光表示，这一里程碑让其处于业界的最前沿，以行业领先的HBM3E性能和能效为人工智能（AI）解决方案提供支持。

早在去年7月，美光就宣布推出业界首款带宽超过1.2TB/s、引脚速度超过9.2GB/s、8层垂直堆叠的24GB容量HBM3E，采用了其1β（1-beta）工艺制造，性能相比目前出货的HBM3解决方案提高了50%。据介绍，美光HBM3E产品的每瓦性能是前几代产品的2.5倍，为人工智能数据中心的性能、容量和功率效率等关键指标创造了新的记录，可以减少GPT-4等大型语言模型的训练时间，并提供了卓越的总拥有成本（TCO）。美光称，其HBM3E的功耗比竞争对手SK海力士和三星的同类产品低了30%。

美光还准备了12层垂直堆叠的36GB容量HBM3E，在给定的堆栈高度下，提供的容量增加了50%，随着技术的进步，美光将硅通孔（TSV）增加了一倍，金属密度增加了五倍，从而降低了热阻抗，加上节能的数据路径设计，因此让能效得以提高。

下个月英伟达的GTC 2024上，美光将会带来36GB容量HBM3E，并分析更多的产品信息。