腾讯云助力MiniMax打造大模型:规模超千卡,可用性达99.9%
作者头像
  • 霍旦
  • 2023-07-21 00:00:00 3088

标题:腾讯云助力大型模型创业,提升效率与稳定性

腾讯云在7月20日公开了与MiniMax合作研发大型模型的最新进展。MiniMax,作为一家致力于通用大型模型研发的独角兽创业公司,其成功离不开高效灵活的云上基础设施的支持。

在面对每日数亿次的调用量挑战时,MiniMax需要强大的计算能力。腾讯云为其提供了高性能、高弹性和高稳定性的计算环境,通过优化计算能力、网络架构和存储性能,构建了HCC高性能计算集群。腾讯自研的星脉网络确保了集群间的高效通信,CFS Turbo和COS+GooseFS等高性能存储则支持数千个节点的高速数据读取。

借助腾讯云容器服务TKE,MiniMax实现了不同规格云服务器的统一管理和调度,优化了资源利用。基于云原生的管理方式,MiniMax能实现全天候、全局层面的监控,确保任务在出现故障时迅速恢复,无需人工介入。

在数据处理方面,MiniMax利用腾讯云提供的数据处理能力,如DataInlong、Oceanus和DLC等,实现了实时或离线数据分析,满足了数据快速灵活部署的需求。容器化的大数据组件使用也为模型验证、推理等任务提供了便利。

针对云上资产的安全问题,MiniMax通过腾讯云的安全产品,如防火墙、WAF、主机安全、漏洞扫描和数据加密等,实现了全面的安全保护,确保了业务稳定运行和数据安全。

迁至云端后,MiniMax借助腾讯云的算力、弹性计算能力和优化措施,显著加快了大型模型的研发速度。业务副总裁魏伟表示,成熟的云基础设施不仅提升了业务的弹性和稳定性,还极大地提高了研发效率。MiniMax计划进一步深化与腾讯云的合作,加速更多云上应用的开发,共同构建面向大型模型的云上基础设施。

腾讯云不仅为MiniMax提供了强大的技术支撑,还推出了覆盖模型预训练、模型精调和智能应用开发的一站式解决方案,帮助企业快速构建定制模型。未来,腾讯云将持续推动全社会的云上创新,加速发展进程。

    本文来源:图灵汇
责任编辑: : 霍旦
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
千卡腾讯可用性助力模型规模MiniMax打造99.9
    下一篇