导读

分布最广的物联网设备往往体积小、电量有限。它们作为终端硬件，通过嵌入式传感器收集各种数据；但由于计算能力有限，对功耗十分敏感。这类设备能否完成机器学习呢？答案是肯定的。近年来，人工智能（AI）正迅速从“云端”转向“边缘”，逐步进入越来越小的物联网设备。在终端和边缘侧的微处理器上完成的机器学习过程被称为微型机器学习（TinyML）。TinyML指的是在低功耗设备上实现机器学习的方法、工具和技术。

物女王：巨大的TinyML带来巨大机遇

这是我在【物女心经】专栏的第166篇文章。

分布最广的物联网设备通常体积小、电量有限。它们作为终端硬件，通过嵌入式传感器收集各种数据；但由于计算能力有限，对功耗非常敏感。这类设备是否能够完成机器学习呢？

一个趋势是，人工智能（AI）正迅速从“云端”转向“边缘”，进入越来越小的物联网设备。在终端和边缘侧的微处理器上完成的机器学习过程称为微型机器学习（TinyML）。更准确地说，TinyML是指工程师们在mW功率范围内的设备上实现机器学习的方法、工具和技术。

一批企业在探索如何利用TinyML相关技术，在这些小型设备上更好地搭载机器学习，从而提高设备的分析能力和运行效率。

TinyML是物联网设备、机器学习和边缘计算三个领域的交汇点，受到多种因素推动，发展迅速。在2020年初的TinyML峰会上，英伟达、ARM、高通、谷歌、微软和三星等公司展示了微型机器学习的最新成果。TinyML基金会于2019年7月成立，成员包括各大知名企业以及优秀的初创公司。

技术进步和生态系统的完善，为TinyML的发展提供了强大的动力。TinyML的影响力正在持续扩大，预计2020年将会有大量产品和解决方案问世。以下是TinyML的概述：

• 什么是TinyML？
• 什么是TinyML即服务？
• TinyML为什么重要？
• TinyML的市场规模预测
• TinyML的最新产品
• TinyML的实际应用
• TinyML的相关组织

什么是TinyML

机器学习（ML）正在变得越来越小。TinyML是机器学习在微控制器上的应用，是超低功耗边缘侧的人工智能。无论何时何地，数据都需要即时可用，这一趋势越来越明显。全球各行各业都在经历这种需求推动的“数字化转型”。根据IDC的分析，到2025年，全球产生的数据中超过四分之一将是实时数据，而物联网实时数据将占到这部分数据的95%以上。

大量的数据催生了一系列新技术，如机器学习、自然语言处理和人工智能，这些技术改变了数据分析的方式，使其从追溯性的活动转变为战略决策和行动的推动力。这些技术显著提高了各种行业的数据分析频率、灵活性和即时性。根据IDC的预测，到2025年，全球的数据总量将增长到5.2ZB，而机器学习处理的数据总量将达到1.4ZB。

目前存在的机器学习可以分为三种类型：云端ML、边缘ML和TinyML。TinyML正是针对超过95%的物联网实时数据处理场景。

什么是TinyML即服务

TinyML即服务（TinyML-as-a-Service）是爱立信提出的概念。TinyML即服务是指在物联网终端设备中嵌入TinyML，使设备能够自主参与智能决策与执行。虽然与云端和边缘相比，终端设备的资源有限，但TinyML即服务仍能提升终端设备的分析能力，更好地处理实时物联网数据。

TinyML为什么重要

TinyML的出现旨在解决边缘ML和云端ML中难以突破的问题，如数据隐私、网络带宽、延迟、可靠性和功耗效率。

• 数据隐私：用户越来越重视数据隐私，倾向于在本地处理和分析数据，以保护隐私。
• 网络带宽：许多物联网设备通过窄带物联网或其他低功耗广域网通信，带宽有限，需要在本地处理数据，减少网络带宽压力。
• 延迟：随着5G等技术的发展，很多应用场景对延迟非常敏感，TinyML通过将部分机器学习任务转移到设备本身，进一步减少网络延迟的可能性。
• 可靠性：在偏远地区、海上平台、空间站等网络覆盖不稳定的地方，TinyML能增强设备的可靠性。
• 功耗效率：许多物联网设备依赖电池供电，TinyML通过极低功耗的数据分析，减少网络传输的数据量，节约电量消耗。

TinyML市场规模预测

海量的物联网设备位于网络边缘，这些设备正变得越来越小，因此TinyML的未来发展具有很大的想象空间。目前全球有2500亿个微控制器在运转，仅2018年一年就售出了281亿个单元。据IC Insights预测，到2023年，微控制器的年出货量将增长到382亿个。未来，这些微控制器将变得更智能。

根据Silent Intelligence的预测，未来五年TinyML将创造超过700亿美元的经济价值，年复合增长率（CAGR）超过27.3%。TinyML的市场规模比边缘ML和云端ML更大，但开发难度较高。TinyML涉及到不同公司的协同，商业形式也各有不同。

TinyML的最新产品

ARM、高通、谷歌、博世、苹果和微软等公司正努力推进TinyML的落地，将其应用于各种传感器。例如，高通推出的超低功耗always-on计算机视觉处理方案，博世推出的用于物联网的MEMS传感器，苹果收购的TinyML初创公司Xnor.ai，ARM发布的ARM Cortex-M55和Ethos-U55芯片设计，GreenWaves公司的GAP9芯片，Eta Compute公司的ECM3532芯片等。

TinyML的实际应用

TinyML正处于应用的早期阶段，在一些领域已有初步应用。例如，Swim.AI在实时数据传输过程中使用TinyML，提升了传感器对实时交通数据的处理能力，减少了乘客等待时间、交通拥堵概率，改善了汽车排放和乘车安全。在制造业中，TinyML可以通过实时决策减少因设备故障导致的非计划停机。QuickLogic的子公司SensiML在这个领域做了不少尝试，他们的产品可以快速构建智能传感方案，已在工业预测性维护中得到应用。在零售业，TinyML可以通过监控货架并在商品数量低于一定水平时发送警报，防止商品脱销。在农业中，TinyML可以帮助农民实时监测家畜健康状况，预测和预防流行病的发生。

TinyML的相关组织

TinyML基金会是最活跃的组织之一，由工程师自发构建，成立于2019年7月，定期举行小型交流会，并每年举办一次TinyML峰会。如果你对此感兴趣，可以访问 https://tinymlsummit.org/ 获取更多信息。

总结

TinyML是机器学习在微控制器上的应用，是超低功耗边缘侧的人工智能。TinyML主要完成的是推理（inference），即将从训练中学到的知识应用到实际操作中。TinyML是一个新兴领域，是一片尚未充分开发的蓝海。未来一两年，这个领域可能会出现显著进展。