联发科推出了全新一代旗舰级5G芯片——天玑9300,集成了创新的全大核架构设计及新一代AI处理器APU,搭配独特的尖端技术,旨在为AI生成式应用提供卓越性能,带来生动且丰富的用户体验。该芯片与行业内的AI企业共享资源,共同构建起一个繁荣的移动端AI生态系统。
搭载第七代AI处理器APU 790,天玑9300专为生成式AI应用而生。APU 790具备硬件级的生成式AI引擎,能够实现高速且安全的边缘AI计算,深度优化Transformer模型,计算速度较上一代提升8倍。
APU 790不仅在性能上实现显著提升,整数运算和浮点运算能力翻倍,AI-Benchmark Mobile Soc跑分高达2109分,功耗降低了45%。这使得1秒内生成图片成为可能。天玑9300的全大核CPU架构、Immortalis-G720 GPU以及强大的AI算力,共同奠定了其在端侧运行生成式AI应用的坚实基础。
依托于亿级参数大语言模型的特性,联发科开发了混合精度INT4量化技术,结合特有的内存硬件压缩技术NeuroPilot Compression,有效提升了内存带宽利用率,减少了终端内存占用,实现了大语言模型在移动端的高效部署。
天玑9300首次在旗舰手机端侧落地了70亿参数AI大语言模型,处理速度达到20 Tokens/s。更进一步,联发科已成功在端侧运行了130亿参数的大语言模型,并率先实现了330亿参数AI大语言模型的移动芯片运行,引领行业前沿。
支持多模态生成式AI大模型,天玑9300带来了“文生诗”、“文生图”、“文生趣图”等多样化端侧体验,让AI创造力触手可及。
针对端侧生成式AI的挑战,天玑9300通过APU 790支持的NeuroPilot Fusion技术,实现了基于基础大模型的低秩自适应融合,使得单一模型能够拓展出N种功能,赋予基础模型更广泛的应用场景。
联发科通过AI开发平台NeuroPilot,构建了丰富的AI生态,包括底层硬件、工具链、模型中心和开发者生态,加速生成式AI在端侧的部署与普及。NeuroPilot兼容主流AI大模型,如Android、Meta LIama 2、百度文心一言等,并提供全面的工具链,如NeuroPilot Compression、Speculative Decoding等,以及端侧模型部署案例资源。
联发科携手合作伙伴,如虹软、极感科技、Morpho等,共同推动生成式AI应用体验的创新。通过优化技术与平台支持,合作伙伴能够在天玑9300上实现高性能AI应用,如生成式AI超级分辨率、语意搜索、实时数字分身生成、防眩光技术等,为用户带来更加个性化和便捷的体验。
天玑9300作为5G时代的旗舰级AI芯片,以其强大的性能、全面的AI生态支持和创新的技术合作模式,为用户提供沉浸式、高效的AI生成式应用体验。未来,随着AI端云融合趋势的深化,天玑9300将继续引领行业变革,为智能生活带来更多可能。