概述

英伟达在周二推出了其最新一代的Grace Hopper超级芯片平台的改良版本，这一平台搭载了专为人工智能和高性能计算而设计的HBM3e内存技术。这款名为GH200 Grace Hopper的新产品沿用了原有的Grace CPU和GH100 Hopper计算GPU架构，但在内存配置上实现了显著提升，容量和带宽均有所增加。

技术创新

新GH200 Grace Hopper超级芯片搭载了72核的Grace CPU，配以480 GB的ECC LPDDR5X内存，以及与之搭配的141 GB HBM3e内存。HBM3e内存由6个24 GB堆栈构成，采用6144位内存接口，总计容量高达144 GB，但实际可用内存为141 GB。相较于之前的GH200平台，此款内存容量增加了约50%，带宽提高了超过25%，从而为更大规模的人工智能模型运行提供了更为强大的支持，尤其是在训练环节表现出色。

市场应用

搭载HBM3的GH200 Grace Hopper平台目前正处在生产阶段，预计于下月正式投入市场。相比之下，搭载HBM3e内存的GH200 Grace Hopper平台则已开始样品测试，计划于2024年第二季度上市。英伟达指出，新的GH200 Grace Hopper超级芯片平台在内存技术与带宽方面均有显著提升，能有效提高数据吞吐量，增强GPU与其他组件间的聚合性能，同时保持易于部署在整个数据中心的服务器设计。

市场定位

搭载HBM3的GH200与HBM3e的改良版将在市场上并行销售，其中HBM3e版本由于其先进的内存技术及更高性能，售价将相应提高。Nvidia首席执行官Jensen Huang强调，此款平台旨在应对生成式人工智能需求的快速增长，提供卓越的内存解决方案，确保数据处理效率与整体系统性能的优化。

技术兼容性

Nvidia的下一代Grace Hopper超级芯片平台全面兼容HBM3e，符合Nvidia的MGX服务器规范，确保与现有服务器设计的良好兼容性，便于用户无缝集成至其数据中心环境。