深信服AICP算力平台在2024数字中国创新大赛两个赛道获奖
作者头像
  • 陶晓庆
  • 2024-05-29 00:00:00 3099

在近期圆满落幕的2024年度数字中国创新大赛中,深信服的AICP算力平台荣获了两项大奖。这些奖项分别是“基于私有化大模型的推理训练一体化AI算力平台”在信创赛道荣获行业贡献奖,以及在城市赛道中荣获二等奖。

随着垂直领域内拥有私有化大模型的趋势日益显著,然而,研发难度高、成本高昂及安全风险等问题却在一定程度上影响了大模型的实际应用效率。深信服在3月推出了AICP算力平台,旨在为各行各业的大模型开发与部署提供一站式服务。该平台具备向导化配置、一键训练功能,以成本降低一半,性能提升五倍的优势,同时提供了模型加密服务,确保用户的知识产权得到保护。

深信服AICP算力平台致力于“让更多用户享受到AI”,在此次获奖中,展示了其最新的功能亮点:

  • 向导化配置,一键训练:平台能高效管理异构算力GPU资源池,并内置了广泛的数据集和开源基模型,简化了训练准备流程。用户只需通过简单的三步操作,即可启动训练任务,无需手动配置100多个复杂参数。平台还配备了监控系统,确保模型训练过程透明可控,从而确保训练的稳定性与效率。

  • 成本与性能优化:平台通过模型量化技术,将模型占用的显存减少50%,进而减少所需的GPU数量。同时,采用业务感知量化(BAQ)技术,保证了量化后模型在垂直领域的效果不受损失,同时提高了性价比。此外,通过优化CPU与GPU间的通信和利用注意力稀疏技术降低显存占用,进一步提升了推理并发用户数与系统总吞吐量。

  • 模型加密与知识产权保护:针对安全风险,平台引入了模型动态加密功能,有效防止关键“模型资产”的泄露。这种全面的安全防护措施,确保了用户数据与知识产权的安全。

深信服AICP算力平台不仅在技术创新上取得显著成就,还积极构建信创生态,与国内多家厂商进行深度合作,确保AI技术栈的兼容性,满足不同硬件环境下的大模型训练与推理需求。通过与华为昇腾系列NPU、天数智芯全自研通用GPU等产品的兼容测试,证明了国内厂商在推理卡性能上的出色表现,使得在信创场景下,用户也能高效执行大模型任务。

深信服作为AI领域的先行者,持续投入研发力量,探索AI技术的前沿应用,致力于为用户提供更多智能、个性化的AI解决方案,未来将不断推动技术创新,为用户创造更大的价值。

    本文来源:图灵汇
责任编辑: : 陶晓庆
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
赛道信服中国获奖大赛两个创新数字平台2024
    下一篇