腾讯音乐推出全新图像生成应用——奇喵相机

1月29日，腾讯音乐宣布推出奇喵相机应用，用户只需上传单张图片，应用即可在短短10秒内生成趣味性的图像复制品，实现了图像生成速度的行业领先。这一突破性成果得益于腾讯音乐娱乐集团（TME）旗下的天琴实验室对MUSE FaceIn图像复刻技术和MUSELight大模型加速框架的深厚研究与创新应用。

MUSELight 2.0：加速大模型部署，推动行业革新

近期，天琴实验室发布了MUSELight 2.0版本，该版本旨在从技术层面解决大语言模型（LLMs）和Stable Diffusion（SD）模型的实际部署难题，为LLMs和SD模型在多个领域的应用提供有力支持，助力企业与机构实现数字化转型和智能化升级。

解决大模型部署难题，MUSELight 2.0技术升级

在过去的12个月里，随着ChatGPT等大语言模型的问世，国内外的开源大语言模型生态日益繁荣，催生了不同领域的巨大需求和应用实例。同时，SD模型在视觉生成领域的变革，激发了AI绘画需求的激增。然而，高昂的模型部署成本和硬件需求成为许多企业的障碍。面对这一挑战，天琴实验室在5月推出了MUSELight大模型推理加速框架1.0版本，受到了行业的广泛赞誉。

天琴实验室的创新加速框架

MUSELight 2.0版本引入了一系列先进的技术，包括Flash Attention 2、Flash Decoding以及启发式自动选择不同的Attention实现算子等，支持主流的LLMs和SD模型加速。该版本通过自顶向下的独创性优化，优化了显存内存间的数据交换、显存复用、计算流程，针对不同GPU架构进行了数据和计算线程的重排，并对特定推理场景进行了算子优化，从而显著提高了显存利用率和计算效率，减少了不必要的访问和计算开销，有效地解决了模型推理部署的瓶颈问题。

广泛认可与应用落地

MUSELight 2.0不仅在SD模型加速方面进行了升级，还新增了支持所有SD1.X和SDXL版本模型加速的功能，加速性能较业内其他框架提升了5%-40%。此外，lyraSD还兼容多种主流的SD绘图场景和插件，如文本生成图像、图像生成图像、模型热切换等，并支持stable-diffusion-webui和diffusers框架下的推理。

合作伙伴的反馈与应用案例

MUSELight与腾讯云深度合作，为行业合作伙伴提供更快的大模型推理体验，同时显著降低了成本。与全球数字科创领域的独角兽APUS达成合作，提升了绘图中台能力30%-40%，APUS负责人对此表示高度满意。在LLMs方面，MUSELight 2.0的加速引擎实现了对ChatGLM-6B模型的5.5倍加速，最高吞吐量达到9000+ tokens/s，满足了更高效计算的需求，并支持长序列场景下的推理，扩展了LLM产品的应用场景。

应用场景与影响

MUSELight为微信键盘的文本润色模块提供了支持，实现了显著的速度提升和成本降低，使用户几乎无需等待即可生成文本。同时，MUSELight在腾讯会议、科恩实验室等业务团队的合作中，完成了多个模型的大规模部署，得到了广泛的认可和高度评价。此外，MUSELight还为直播礼物实时绘图、壁画悬浮歌词音箱绘图等场景提供了解决方案，大幅降低了企业部署LLMs和SD模型的成本，推动了科技成果的有效落地转化。

未来展望

腾讯音乐娱乐集团作为在线音乐娱乐服务的先锋，将持续推进技术创新，通过MUSELight等工具，为用户带来更优质的体验。面对AI领域和数字音乐产业的挑战，天琴实验室将不断探索新功能与支持的新模型，进一步降低企业大模型部署成本，加速大模型的应用落地，引领数字音乐行业的高质量发展。