行业第一!天玑9300内存硬件压缩技术大幅降低手机AI大模型内存占用
作者头像
  • 白雨思
  • 2023-11-10 00:00:00 3024

天玑9300:引领5G时代AI创新,打造端侧生成式AI体验新高度

天玑9300旗舰级5G芯片:联发科推出全新一代旗舰级5G芯片——天玑9300,集成创新的全大核架构与新一代AI处理器APU,为端侧生成式AI应用提供了卓越性能,带来丰富、精彩的AI体验。联发科携手多家业内AI企业,构建起多元化的AI生态系统。

APU 790:为生成式AI量身定制

  • 第七代AI处理器APU 790:专为生成式AI应用设计,具备硬件级的生成式AI引擎,实现高速、安全的边缘AI计算,尤其针对Transformer模型进行算子加速,性能较上一代提升8倍。

  • 性能与能效显著增强:整数运算和浮点运算能力翻倍,AI-Benchmark Mobile Soc评分高达2109分,功耗降低45%,1秒内生成图片,确保高效AI处理。

端侧AI大语言模型部署

  • 强大AI算力支撑:搭载天玑9300,首次在vivo旗舰手机上实现70亿参数AI大语言模型的端侧运行,处理速度达20 Tokens/秒。联发科已突破130亿参数大语言模型在端侧运行的行业极限,并率先在移动芯片上实现330亿参数的AI大语言模型运行。

多模态生成式AI大模型支持

  • 丰富体验:天玑9300支持多种生成式AI大模型,包括“文生诗”、“文生图”、“文生趣图”等功能,为用户提供全面、有趣的AI体验。

端侧生成式AI技能扩充与生态建设

APU 790NeuroPilot Fusion 技术支持基于基础大模型的端侧技能扩充,允许通过云端训练,在端侧实现多个功能的融合,大幅提升AI应用的全面性和丰富性。

  • 图生GIF动图:用户可通过一张照片生成个性化表情包,成为表情包创作高手。

AI开发平台NeuroPilot

  • 加速端侧AI生态发展:联发科通过AI开发平台NeuroPilot构建丰富AI生态,涵盖底层硬件、工具链、模型中心及开发者资源,助力快速部署端侧生成式AI应用。

  • 支持前沿AI模型:NeuroPilot支持主流AI大模型,如Android、Meta Llama 2、百度文心一言、百川智能等,并提供优化工具链和模型部署案例,提升开发效率。

与行业伙伴共创智能体验

  • 虹软超级分辨率技术:提升拍摄细节,改善图像质量。
  • 极感科技语意搜索技术:在断网状态下搜索照片,保护隐私。
  • Morpho实时数字分身生成技术:轻松生成视频通话中的数字分身。
  • 慧鲤防眩光技术:有效消除光线干扰,提升拍摄体验。

结论:天玑9300在AI算力、生成式AI体验和生态建设方面展现出全面优势,引领新一代旗舰级端侧生成式AI体验。通过技术创新与生态合作,联发科正积极推动AI在端侧的应用,为用户提供更加个性化、高效的智能体验,让科技惠及更多人群。

    本文来源:图灵汇
责任编辑: : 白雨思
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
天玑内存占用大幅模型压缩降低硬件行业手机
    下一篇