在Tiny ML峰会上,专家们将探讨隐私保护、能源消耗以及新的应用场景。
2019年2月,来自谷歌、微软、高通、三星以及六所大学的研究人员聚集在加州圣何塞,共同讨论如何将机器学习技术应用于最边缘的设备,特别是在那些依靠传感器或电池运行的小型处理器上。
这一盛会被称为“微型机器学习峰会”(Tiny ML Summit)。其目标是探索如何在最小的处理器上运行机器学习算法。边缘计算中的机器学习不仅能提升隐私保护水平,还能减少能源消耗,并在未来几代设备中催生新的应用。
机器学习的核心在于神经网络的训练,这需要大量数据的支持。最终,这些训练出来的模型可以用于围棋对弈或语音识别等多种任务。
许多公司正致力于研发专用硬件,以在数据中心内加速网络训练。同时,他们也希望在设备边缘部署这些硬件,以便在本地进行模型推断。然而,微型机器学习社区的目标是找到能在如8位微控制器这样的小型设备上实现高效运算的方法。
尽管在某些领域,如智能手机,已经取得了一定进展。例如,2019年11月,谷歌开源了两种优化后的机器学习算法,其中一种能降低50%的能耗,另一种则提升了两倍的运行速度。此外,还有一些初创企业如Flex-Logix、Greenwaves和Syntiant也正在利用定制化的芯片解决类似问题。
但微型机器学习社区有着更为独特的追求。设想一下,如果能够在助听器上集成机器学习模型,能够区分语音和背景噪音,那么直接在设备上运行模型将比通过无线连接依赖云端更加高效且安全。
微型机器学习的研究者们还在探索如何利用电池供电的边缘设备进行更有效的数据分类。Latent AI公司的CEO Jags Kandasamy表示,该公司正在与生产增强现实和虚拟现实耳机的企业进行合作。Latent AI开发了一种适用于微型处理器的神经网络压缩软件。这些企业希望通过分析收集到的大量图像数据,对设备捕捉到的画面进行分类,从而减少向云端传输的数据量。例如,“你是否真的需要将拍摄的十辆丰田卡罗拉的照片全部上传到云端?”Kandasamy提出疑问。
由于机器学习通常需要大量电力,而在设备本地处理数据可以显著减少上传至云端的数据量,从而节约带宽和能源。
尽管许多人认为“越大越好”,但我在将机器学习应用于边缘设备方面的潜力感到非常兴奋。尽管微型机器学习仍主要集中在推理阶段,未来或许我们甚至可以考虑在边缘设备上直接进行网络训练。