Facebook AI研究院的首席AI科学家Yann LeCun最近提出,AR眼镜可能是低功耗机器学习的理想训练平台,因为它们涉及许多尚未解决的问题。这一观点是在不久前在加拿大温哥华举办的NeurIPS神经信息处理系统大会上提出的,尤其是在EMC²(节能型机器学习与认知计算)专项研讨会上。
NeurIPS是全球顶尖的人工智能学术会议之一,而EMC²专注于节能型机器学习和认知计算。Yann LeCun在人工智能领域享有极高的声誉,曾获得图灵奖。
理想的AR眼镜需要一个成熟的对话式AI系统,包括计算机视觉、自然语言处理等复杂系统,这些都需要大量计算。然而,为了实现轻量化、长续航和低发热,必须使用低功耗的AI系统。Yann LeCun指出,硬件部分是一个巨大的挑战。例如,当你佩戴一副带摄像头的AR眼镜时,系统需要实时追踪视觉信息用于定位,这就需要大量计算。同样,如果你希望通过语音与智能助理互动,麦克风就需要一直工作。手势追踪也是如此,需要系统始终保持“实时待命”的状态。尽管实时手势追踪已经实现,但在小巧紧凑的AR眼镜中以低功耗形式实现这一目标仍然是一项挑战。
Yann LeCun补充说,从功耗、性能和外形尺寸等方面来看,现有的技术能力有限,因此必须采用之前未曾考虑或使用过的新型技术,如神经网络。
在EMC²研讨会上,Yann LeCun提到硬件限制给软件开发带来的困扰。由于当前硬件的局限性,软件难以成型或实验难以复现,这可能导致好的想法被放弃。此外,硬件限制还会抑制研发人员的创造力。
Yann LeCun还介绍了几种深度学习方法,如异联想记忆和卷积神经网络,这些方法对硬件提出了新的要求。异联想记忆(或软RAM)是自然语言处理中广泛使用的一种计算方法,并已应用于计算机视觉领域。未来几年,深度学习和机器学习架构将经历重大变革。目前,NLP领域的唯一主要架构是Transformer网络。更高效的批量处理和自我监督学习技术将使AI更接近人类和动物的学习和思考方式,从而推动节能型AI的发展。
在Yann LeCun的演讲之后,麻省理工学院电子工程和计算机科学副教授Vivienne Sze强调了评估深度神经网络系统方法的重要性。她在本周早些时候进行了一次关于高效深度神经网络的演讲,获得了极高点击量。Vivienne Sze教授提到,更大的内存会消耗更多电力,所有权重都不相同,并展示了一套由麻省理工学院开发的评估硬件功耗的框架——Accelergy。
有趣的是,在NeurIPS会议上,除了讨论深度学习算法外,还有许多会议强调了AI在应对气候变化方面的重要作用。一篇名为《能源使用报告:算法视角下的环境视角》的论文专门探讨了这一话题。论文指出,必须准确测量并公开算法的碳排放量,以便计算机科学家能够在环境可持续发展方面发挥积极作用。这一观点与NeurIPS组委会的建议一致,后者可能会要求2020年提交的AI研究人员分享其研究内容的碳排放数据。
与此同时,来自Element AI和Mila Quebec AI研究所的机器学习专家推出了一个新的工具,该工具通过GPU模拟计算AI模型的碳排放量,从而根据使用时间和云区域等因素预测能源使用情况。
虽然机器学习领域的焦点一直是开发更强大的AI,但随着轻量化设备,特别是可穿戴设备(如AR眼镜、智能手表等)的普及,更高效且能耗更低的机器学习方案变得越来越重要。这不仅对现有的机器学习模型和架构提出了重大挑战,也为未来的创新提供了广阔的空间。