核心摘要:在4月16日举行的Create 2024百度AI开发者大会上,百度集团执行副总裁、百度智能云事业群总裁沈抖宣布发布新一代智能计算操作系统——万源。此系统旨在通过抽象与封装设计,简化AI原生时代的智能计算平台的复杂性,显著提升AI原生应用的开发效率与用户体验。
技术革新:随着大模型技术的持续演进,自然语言编程正逐渐成为可能。编程方式将转向以表达需求为主,从而引发操作系统的核心层变化。底层硬件从以CPU为中心转变为以GPU为中心,并整合了大模型压缩的知识。操作系统管理的对象从进程和服务进化至智能体。
目标与定位:“万源”旨在连接计算效能与应用创新,提供一个全面、高效的智能计算平台。系统结构分为内核、外壳与工具集三部分,旨在屏蔽复杂性,为开发者提供简便、流畅的开发环境。
内核层:内核专注于算力管理,通过优化智算集群设计、调度与容错机制,实现高效模型训练与推理。百舸·AI异构计算平台兼容国内外主流AI芯片,实现一云多芯的模型训练,优化不同厂商芯片间的协同与效率。
Shell层:Shell层通过千帆ModelBuilder解决模型管理、调度与二次开发问题,简化模型开发流程,提升效率。提供模型路由服务,自动匹配任务与最优化模型,大幅降低推理成本。
工具层:千帆AppBuilder与AgentBuilder构成工具集,为开发者提供AI原生应用开发能力,包括工作流编排与模型调用,实现快速应用开发与部署。
“万源”作为开放操作系统,未来将加强生态合作,赋能垂直行业,支持自建智算中心,适配更多异构芯片,推动AI驱动的智能云时代发展。这一趋势顺应了技术进步与市场需求,开启了由AI引领的智能计算新篇章。