12月8日亮点报道:今日,百度与鹏城实验室联合发布全球首个知识增强型千亿参数量大模型——“鹏城-百度·文心”。这款大模型以2600亿参数量傲视群雄,成为中国最大中文单体模型,且在60多项任务中创下最佳表现记录。
技术创新与产业应用双轨并行:此次发布的“文心”大模型不仅展示了技术自主创新的最新成果,还推动了中国人工智能发展的新步伐。它通过融合大规模知识与海量数据,显著提升学习效率与效果,具备出色的可解释性,展现出强大的技术创新实力。
一、AI技术新高地:预训练模型的崛起
中国工程院院士、鹏城实验室主任高文与百度首席技术官、深度学习技术及应用国家工程实验室主任王海峰共同启动发布仪式。高文院士强调,预训练模型作为推动科学、社会与创新发展的关键工具,对于人工智能领域具有深远意义,能广泛赋能于各类人工智能应用,促进其全面发展。
二、知识增强型大模型“文心”首度亮相
“鹏城-百度·文心”作为全球首个知识增强千亿大模型,不仅在多项任务中展现卓越性能,还在小样本与零样本任务上刷新基准。它依托鹏城实验室的“鹏城云脑Ⅱ”算力系统与飞桨深度学习平台的强大支撑,解决了超大模型训练的技术难题,显著提升训练效率与效果。
三、大模型应用落地的创新探索
百度团队创造性地引入大模型在线蒸馏技术,成功将模型参数压缩至极低比例,仅保留0.02%参数规模即可达到与原有模型相近的效果,大幅降低了大模型应用的门槛,为产业大规模应用开辟了新路径。
四、产学研协合作的深化
鹏城实验室与百度成立的联合实验室,致力于推动产学研协“多轮驱动”,共享资源、互补优势,共同攻克自然语言处理领域的前沿研究与创新应用难题,助力打造国家战略科技力量。
五、全面开放与行业落地
“文心”模型通过百度飞桨平台对外开源开放,已广泛应用于百度搜索、信息流、智能音箱等互联网产品,并通过百度智能云赋能各行业,包括金融、工业、能源、教育等领域。在金融行业,基于“文心”的合同智能解析能力,实现了效率与精度的双重提升。