联发科最新发布的天玑9300,以其创新的全大核架构设计及先进的AI处理器APU等特色技术,为AI生成应用提供了前所未有的强大动力。这款芯片不仅能够驱动引人入胜、丰富多样的生成式AI体验,还与众多AI企业紧密合作,共同构建充满活力的AI生态系统。
随着生成式AI应用需求的激增,端侧部署的优势日益凸显。天玑9300搭载的全新第七代AI处理器APU 790,专为生成式AI设计,配备硬件级生成式AI引擎,实现高速且安全的边缘AI计算,特别针对Transformer模型进行算子加速,其计算速度较上一代提升8倍。
APU 790不仅性能显著提升,整数运算和浮点运算能力均比前一代提升2倍,AI性能评测得分高达2109分,功耗降低了45%。这使得天玑9300能在1秒内生成图片,为AI算力、CPU架构和GPU(Immortalis-G720)的协同工作奠定了坚实的基础。
为应对亿级参数大语言模型的需求,联发科引入了混合精度INT4量化技术和内存硬件压缩技术NeuroPilot Compression,有效利用内存带宽,大幅减少了AI大模型对终端内存的占用,突破了手机内存限制,使得更大参数模型得以在端侧顺利运行。
天玑9300在vivo旗舰手机上首次实现了70亿参数AI大语言模型的端侧落地,处理速度可达20 Tokens每秒。此外,联发科成功将130亿参数的大语言模型部署于端侧,更是在移动芯片上率先运行了330亿参数的AI大语言模型,引领行业前沿。
天玑9300支持多模态生成式AI大模型,包括“文生诗”、“文生图”、“文生趣图”等丰富的端侧体验,全面提升了用户的创造力。
联发科提出的先进解决方案,如AI模型端侧技能扩充技术NeuroPilot Fusion,允许基于一个基础大模型在端侧持续进行低秩自适应融合,从而扩展模型功能,实现更全面、丰富的生成式AI应用。
借助强大的AI算力、内存压缩技术、AI模型端侧技能扩充等,天玑9300的APU 790将端侧生成式AI的性能提升至全新高度。联发科的AI开发平台NeuroPilot则构建了完整的AI生态,从硬件到工具链、模型中心,以及开发者资源,加速生成式AI在端侧的部署与普及。
天玑9300与虹软、极感科技、Morpho等合作伙伴共同打造精彩生成式AI应用体验,如虹软的生成式AI超级分辨率技术、极感科技的生成式AI语意搜索技术、Morpho的实时数字分身生成技术等,均基于天玑9300的强大AI算力。
在AI端云融合的大背景下,天玑9300以其全面的优势,树立了旗舰级端侧生成式AI体验的新标杆,展现了AI算力、用户体验和生态布局的领先实力,让AI成果惠及更广泛的用户群体,实现科技普惠。