火山引擎升级云服务,要做AI大模型“发动机”
作者头像
  • 智能科技小传达
  • 2023-04-20 10:03:14 3077

摘要:

4月18日,字节跳动旗下的火山引擎在一场名为“原动力大会”的活动上,推出了自研DPU等一系云产品,并发布了一个新版的机器学习平台。这一平台支持大规模模型的训练,实现了微秒级延迟网络,并通过弹性计算将算力成本降低了70%,其基于自研DPU的GPU实例性能相较于前代集群最高提升了三倍。

火山引擎宣布将字节跳动国内业务整合至同一云原生基础架构下,使得抖音等内部业务的空闲计算资源能够迅速调配给火山引擎的客户。此举旨在通过高效的资源调度,提高资源利用率,从而实现成本节约和效益提升。

解析:

字节跳动副总裁杨震原指出,业务创新应勇于尝试和快速迭代,但同时需控制成本。火山引擎通过采用潮汐、混部等策略,实现了资源的高效利用和低成本运行。以抖音推荐系统的例子,工程师只需15个月的样本,即可在5小时内完成模型训练,成本仅为5000元。而抖音的“AI绘画”特效,从启动到上线仅需一周多的时间,且模型由一名算法工程师独立完成训练。

MiniMax联合创始人杨斌分享了与火山引擎合作的经验,双方共同构建了超大规模实验平台,实现了千卡级的常态训练,以及万卡级的算力池,支撑着单日过亿次的调用需求。这表明,火山引擎的云服务为MiniMax的大模型业务提供了快速发展的环境。

火山引擎总裁谭待透露,超过七成在国内专注于大模型领域的企业已入驻火山引擎的云平台。这显示出火山引擎在AI领域强大的吸引力和市场地位。

火山引擎不仅与AI技术公司合作,也积极寻求与传统企业的合作机会。谭待强调,这需要技术升级、组织结构调整以及机制优化的综合策略。通过与行业的领头羊进行深度合作,火山引擎推出了定制化的解决方案。

谭待还提到,火山引擎的商业模式与面向消费者的服务存在显著差异,需要经历一个长期的积累过程。然而,一旦积累了足够的经验和技术实力,将拥有持续的竞争力。火山引擎的短期目标是创造更多客户价值,而长远目标则是成为一个可持续盈利的业务。参考全球领先的云计算公司的盈利表现,火山引擎认为自己正处于一个具有巨大潜力的赛道上。

结论:

此次火山引擎的发布活动展示了其在云计算和人工智能领域的最新进展,包括自研DPU等产品的推出,以及新版机器学习平台的强大功能。通过整合字节跳动内部资源,火山引擎实现了资源的高效调度和成本优化,为大模型训练提供了有力支持。此外,火山引擎还展示了其与各类企业合作的能力,以及向传统行业拓展的潜力,展现出其在云计算领域的全面布局和未来发展的雄心。

    本文来源:图灵汇
责任编辑: : 智能科技小传达
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
火山发动机模型升级引擎服务
    下一篇