国内首家!超云推出Gaudi2加速AI大模型训练一体化解决方案
作者头像
  • 飞哪儿
  • 2023-09-05 00:00:00 3009

导读:

随着大模型训练与计算能力的迅速发展,全球范围内,特别是以GPT-4为代表的大规模模型训练产品的热度持续攀升。与此同时,中国自主研发的“文心一言”亦面向公众全面开放。然而,中国在大型模型训练过程中面临成本高昂与核心组件供应不足的挑战,这在替换与迁移方案的制定上构成了显著障碍。

为解决此困境,Intel近期推出了第二代Gaudi深度学习加速器——Habana Gaudi2。凭借其卓越的性价比与稳定供应链,Gaudi2旨在成为大规模人工智能部署的理想选择。超云,作为专注于数据中心产品与服务的国内领先企业,紧跟Intel技术创新步伐,迅速整合研发资源,推出基于英特尔AI加速卡的全新AI服务器——R8868 G13。

产品亮点:

技术规格:

  • 24个可编程张量处理器核心(TPCs)
  • 21个100Gbps(RoCEv2)以太网接口
  • 96GB HBM2E内存容量
  • 高达2.4TB/秒的总内存带宽
  • 48MB片上SRAM
  • 集成多媒体处理引擎

性能评估:

在GPT-3的测试中,Intel采用384块Gaudi2加速器,完成训练耗时311分钟。当加速器数量从256扩展至384时,性能提升接近线性,达到约95%。

合作与成果:

超云在AI算力领域扮演关键角色,作为国内首批引入Gaudi2解决方案的企业,其AI服务器R8868 G13集成8块HL-225B加速卡,兼容英特尔第四代Xeon EGS系列处理器。超云与Intel的长期合作关系,使其连续三年荣获Intel钛金级合作伙伴荣誉,共同推进产品研发与技术革新。

市场反响与战略布局:

通过高效的产品部署,超云为客户提供高品质、高性价比的解决方案,成为国内首个提供全栈解决方案的厂商。当前,R8868 G13服务器正进入测试阶段,其解决方案的复制已吸引众多互联网巨头关注,标志着超云在市场上的领先地位。

面对大模型在各行各业的商业化应用需求日益增加,以及对高性价比硬件服务器的迫切需求,基于Gaudi2的R8868 G13服务器展现出超云在性能与性价比方面的显著优势。

展望未来,超云与Intel的合作前景广阔,双方将持续深化合作与技术创新,提供更强大的深度学习性能,助力客户提升价值,加速中国大模型的创新迭代,推动数字经济的全面发展。

    本文来源:图灵汇
责任编辑: : 飞哪儿
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
国内首家一体化模型加速解决方案训练推出Gaudi2
    下一篇