天玑9300率先支持LoRA融合的端侧技能扩充技术,让基础大模型能力更全面
作者头像
  • 张静易
  • 2023-11-10 00:00:00 3038

天玑9300:开创5G时代AI生成应用新纪元

引领AI算力革新,打造沉浸式体验

联发科推出了全新一代旗舰级5G芯片——天玑9300,集成了创新的全大核架构设计及新一代AI处理器APU,搭配独特的尖端技术,旨在为AI生成式应用提供卓越性能,带来生动且丰富的用户体验。该芯片与行业内的AI企业共享资源,共同构建起一个繁荣的移动端AI生态系统。

APU 790:为生成式AI量身定制

搭载第七代AI处理器APU 790,天玑9300专为生成式AI应用而生。APU 790具备硬件级的生成式AI引擎,能够实现高速且安全的边缘AI计算,深度优化Transformer模型,计算速度较上一代提升8倍。

性能与能效双升,加速AI模型部署

APU 790不仅在性能上实现显著提升,整数运算和浮点运算能力翻倍,AI-Benchmark Mobile Soc跑分高达2109分,功耗降低了45%。这使得1秒内生成图片成为可能。天玑9300的全大核CPU架构、Immortalis-G720 GPU以及强大的AI算力,共同奠定了其在端侧运行生成式AI应用的坚实基础。

大语言模型突破边界,AI算力赋能

依托于亿级参数大语言模型的特性,联发科开发了混合精度INT4量化技术,结合特有的内存硬件压缩技术NeuroPilot Compression,有效提升了内存带宽利用率,减少了终端内存占用,实现了大语言模型在移动端的高效部署。

实现AI大模型端侧落地,性能领先业界

天玑9300首次在旗舰手机端侧落地了70亿参数AI大语言模型,处理速度达到20 Tokens/s。更进一步,联发科已成功在端侧运行了130亿参数的大语言模型,并率先实现了330亿参数AI大语言模型的移动芯片运行,引领行业前沿。

多模态生成式AI体验,丰富用户互动

支持多模态生成式AI大模型,天玑9300带来了“文生诗”、“文生图”、“文生趣图”等多样化端侧体验,让AI创造力触手可及。

AI模型端侧技能扩充,赋能全面AI生态

针对端侧生成式AI的挑战,天玑9300通过APU 790支持的NeuroPilot Fusion技术,实现了基于基础大模型的低秩自适应融合,使得单一模型能够拓展出N种功能,赋予基础模型更广泛的应用场景。

构建AI开发平台,加速生态布局

联发科通过AI开发平台NeuroPilot,构建了丰富的AI生态,包括底层硬件、工具链、模型中心和开发者生态,加速生成式AI在端侧的部署与普及。NeuroPilot兼容主流AI大模型,如Android、Meta LIama 2、百度文心一言等,并提供全面的工具链,如NeuroPilot Compression、Speculative Decoding等,以及端侧模型部署案例资源。

合作伙伴生态,共创精彩AI应用

联发科携手合作伙伴,如虹软、极感科技、Morpho等,共同推动生成式AI应用体验的创新。通过优化技术与平台支持,合作伙伴能够在天玑9300上实现高性能AI应用,如生成式AI超级分辨率、语意搜索、实时数字分身生成、防眩光技术等,为用户带来更加个性化和便捷的体验。

结论

天玑9300作为5G时代的旗舰级AI芯片,以其强大的性能、全面的AI生态支持和创新的技术合作模式,为用户提供沉浸式、高效的AI生成式应用体验。未来,随着AI端云融合趋势的深化,天玑9300将继续引领行业变革,为智能生活带来更多可能。

    本文来源:图灵汇
责任编辑: : 张静易
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
天玑扩充率先融合模型技能能力全面支持基础
    下一篇