人工智能（AI）的研究和发展取得了显著的进步，计算机的应用范围也在不断扩展。机器在某些任务上的表现已经超越了人类，不仅速度快而且精确度高。ILSVRC图像分类比赛就是其中一个典型案例，该比赛使用基于机器学习（ML）的人工智能技术。2012年，AlexNet凭借其首次采用深度神经网络和GPU进行训练的方式赢得了这一比赛。到了2015年，ResNet-152在图像分类领域超越了人类的表现。

![图1：机器与人类在图像分类领域的表现]

计算机在其他领域的表现同样出色，比如游戏领域。下面列举了一些机器击败人类冠军的实例，以及人类仍然领先于机器的非游戏场景：

![图2：2017年至2019年机器与人类在游戏领域的表现]

显而易见，机器学习能够提供一些惊人的新功能，这些功能对于智能家居、智能零售、智能制造和智慧城市等领域来说至关重要，并被广泛应用于当今各行各业。例如，云服务提供商提供的机器学习云服务（如Amazon AWS SageMaker、Microsoft Azure ML和Google Cloud ML Engine）的快速增长就是一个明显的例子。

向边缘推进

过去，由于大量计算和存储资源的可用性，机器学习的部署主要集中在云端运行大型集中式数据中心。然而，现在由于多种因素的推动，越来越多的应用开始转向边缘计算。这些因素包括：

• 云计算、存储和带宽成本高昂，限制了将数据发送到云端以进行人工智能决策。
• 用户需要快速做出人工智能驱动的决策，以提升用户体验。
• 隐私和安全问题限制了云端存储的数据量。

鉴于这些因素，边缘计算成为了许多应用的理想选择。因此，恩智浦推出了i.MX 8M Plus，这是首款配备专用高性能机器学习加速器的i.MX应用处理器。i.MX 8M Plus采用14nm FinFET工艺技术，具备低功耗和高性能的特点，并支持双摄像头ISP（可以处理人脸、物体识别和手势识别等任务）。此外，它还集成了一个800MHz Cortex-M7处理器（用于处理实时任务并支持低功耗），以及H.265和H.264视频编解码器、800MHz HiFi4 DSP和8通道PDM麦克风输入。工业物联网特性包括支持时间敏感网络（TSN）的千兆以太网、两个CAN-FD接口和ECC。

![i.MX 8M Plus 应用处理器框图]

数据科学家们正在努力优化在边缘设备上运行的资源受限型算法，以加速向边缘计算的迁移。Google开发的MobileNet是一种图像分类算法，旨在提高精度的同时显著减少所需的计算资源。如下图所示，与VGG-16模型相比，使用MobileNet v2模型可以将边缘设备所需的计算量减少50倍。这使得边缘设备可以使用资源受限的硬件来执行复杂的机器学习任务。

![图3：针对边缘优化的神经网络算法]

此外，在边缘设备上运行MobileNet v1比在云端运行更快，因为边缘计算消除了网络延迟的影响。往返网络延迟通常会增加200毫秒至1.4秒，导致响应时间延长。为了提供实时体验，目标是在100毫秒内作出反应。

![图4：边缘提供更快的用户体验]

以下是i.MX 8M Plus支持的部分边缘机器学习应用场景。

![图5：机器学习应用场景]

不同的应用场景对硬件性能有不同的需求，这也是i.MX 8M Plus采用专用机器学习加速器的重要原因。

全面的机器学习开发生态系统：eIQ™

为了实现突破性的机器学习应用，需要一个以任务为导向的生态系统。为此，恩智浦开发了创新型边缘智能（eIQ）工具环境，为客户提供在包括i.MX 8M Plus在内的各种恩智浦SoC上部署机器学习技术所需的工具。eIQ支持多种机器学习处理单元，包括Arm Cortex-A和Cortex-M处理器、GPU（图形处理器）、DSP和机器学习加速器。eIQ机器学习软件环境包含了开源机器学习的推理引擎和库，如TensorFlow Lite、OpenCV、CMSIS-NN和Arm NN。这些技术可通过恩智浦的MCUXpresso和Yocto（Linux）开发环境访问，为应用开发提供无缝支持。eIQ软件还提供了物体检测和语音识别示例应用，作为在边缘部署机器学习的良好起点。

![图6：eIQ 机器学习开发环境]

边缘安全：EdgeLock™

边缘安全至关重要。所需功能包括安全启动信任锚、片上加密、安全配置、双向设备认证、安全设备管理、空中（OTA）安全升级更新和生命周期管理。为了支持边缘安全，恩智浦创建了可扩展的EdgeLock产品组合，其中包括安全元件、安全身份验证器、应用处理器和MCU的嵌入式安全功能。i.MX 8M Plus采用了先进的EdgeLock嵌入式安全技术，包括资源域控制器、TrustZone、HAB、加密启动、使用RSA和椭圆曲线算法的公钥加密。EdgeLock赋予边缘节点完整性、真实性和隐私性，从边缘到网关再到云端，提供全面的安全保障。

经济实惠的边缘人工智能

eIQ工具包为基于CPU、GPU和DSP的恩智浦现有SoC系列带来了机器学习功能。然而，即便是最快的CPU，也难以高效地执行高度复杂的神经网络。因此，全新的i.MX 8M Plus是一个混合人工智能SoC，结合了先进的嵌入式SoC与最新的人工智能/机器学习硬件NPU技术。这样，用户不仅可以利用现有的SoC应用，还可以利用机器学习加速器的强大并行计算能力。

未来

在人工智能领域，变革的步伐不断加快。以下图表展示了来自AI Index 2018和Monster.com的数据，显示了深度学习领域就业机会的增长情况：

![图7：按所需人工智能技能划分的就业机会增长（2015-2017）]

公司财报电话会议中提到人工智能和机器学习的次数：

![图8：公司财报电话会议提及次数——IT公司（2007-2017）]

人工智能和机器学习正在彻底改变计算机行业，这种变革将有助于改善我们的生活。在i.MX 8M Plus的带领下，通过将人工智能和机器学习推向边缘，我们正朝着更加美好的未来迈进。