NVIDIA与ARM携手推动终端AI计算

在2018年3月27日的GTC大会上，NVIDIA首席执行官黄仁勋宣布了与ARM的合作计划，旨在整合NVIDIA的深度学习加速架构（NVDLA）与ARM的机器学习平台Project Trillium。这一战略整合旨在为行动设备、物联网等终端AI应用的开发者提供一套高效且易于更新的软硬件一体化解决方案。

Project Trillium是由ARM推出的机器学习解决方案，专为包括智能手机、平板电脑、传感器和IoT设备在内的各种终端装置设计，旨在加速人工智能（AI）依赖的神经网络运算。通常情况下，AI应用不仅依赖于云中心的大规模数据中心进行训练，还需要在终端设备（如汽车、手机）上实时执行推理任务。通过针对特定算法进行优化，不仅能够显著提升AI应用的响应速度，还能在终端设备层面实现能效提升，达到节能效果。

推动AI在终端设备的应用

Project Trillium被视为ARM在智能移动设备处理器市场上的重要突破，它旨在利用AI技术拓展至物联网领域。此次合作使得NVIDIA得以将自家的深度学习加速器架构扩展至ARM覆盖的市场范围，为深度学习推理处理器提供标准化的设计路径。预计在2018年4月，ARM将发布Project Trillium的预览版本，并在同年中正式推出搭载相关技术的产品。

对于NVIDIA的开发者生态系统而言，这项合作意味着能够利用TensorRT等架构，快速将训练出的机器学习模型部署至终端设备上，如通过OTA对负责加速神经网络运算的处理器进行模型更新。此举有望加速AI应用的持续优化过程，将学术界或社区开发的最新成果直接推送到终端设备上。对于物联网和移动设备市场而言，得益于NVIDIA在深度学习开发者生态的深厚积累以及ARM在该领域的主导地位，此次知识产权合作预计将加速AI推理应用的普及。