【新智元编译】AI与人类在视觉上的差距究竟有多大？来自加州大学伯克利分校、华盛顿大学和芝加哥大学的研究团队开发了一个包含7500个“自然对抗实例”的数据集，经过多次测试，发现多种机器视觉系统的准确率大幅下降，有的甚至低至2%-3%。这种情况如果应用在自动驾驶汽车上，后果将不堪设想。

近年来，计算机视觉技术取得了显著进步，但仍存在重大缺陷。这些缺陷使得机器视觉系统容易出错，甚至会出现一些极端的情况。这些错误不仅限于人为制造的“对抗性图像”，也包括自然环境中产生的图像。这些自然对抗实例展示了机器视觉系统的脆弱性，即使是在日常场景中，它们也可能出现误判。

研究团队创建的数据集揭示了机器视觉系统的一个关键问题：它们过度依赖颜色、纹理和背景信息来进行识别。例如，在某些情况下，AI会将木纹背景误认为钉子，或将蜂鸟饲养器误认为有蜂鸟存在。这些错误反映了AI系统在处理复杂图像时的局限性。

AI系统在面对不同的纹理和颜色时，容易出现误判。例如，一张显示蜻蜓的照片，AI可能会将其识别为臭鼬、香蕉、海狮或手套。这些错误的原因在于AI过于关注局部细节，而非整体图像内容。

尽管如此，这并不意味着机器视觉系统毫无希望。这些系统通常能够正确识别大多数图像，只是偶尔会出现错误。一些专门的系统，如用于医学影像分析的系统，仍能有效地执行其功能。这类研究揭示了机器视觉系统中的薄弱环节，未来的研究方向是如何改进这些系统，使其更加可靠和准确。

相关论文和数据集可以在以下链接找到： 论文地址：https://arxiv.org/pdf/1907.07174.pdf 代码和数据集：https://github.com/hendrycks/natural-adv-examples