机器学习：保守的力量

作为一名现代科技的支持者和倡导者，我已经多年投身于这一领域。尽管如此，近年来机器学习的热度远远超过了其他技术趋势。从大众媒体到企业的宣传，机器学习似乎成为了连接高科技产品和生活方式的关键力量。

然而，在这些美好的愿景背后，仍有一些声音值得我们深思。蒙特利尔麦吉尔大学的Molly Sauter曾在一篇文章中提到：“机器学习本质上是保守的。”这句话揭示了一个关键问题：机器学习倾向于保持现状，难以带来根本性的变革。

机器学习的保守性

机器学习无法改变现状，它只会默认未来与过去相同。例如，如果你经常在短信中使用“Hey darling”作为开头，那么在输入“Hey”时，自动补全功能往往会推荐“darling”。即使这次你想说的是分手，它也不会改变。这种现象不仅限于日常沟通，也在各种推荐系统中普遍存在。当你在网上搜索“电冰箱”，算法会给你贴上“想买电冰箱”的标签，并不断推送相关广告，即使你已经购买了也不停止。类似的，当你在社交平台上关注某人后，系统会推荐与其相似的人，即使你自己很清楚为什么没有关注他们。

机器学习的局限性

尽管机器学习在发现关联方面表现出色，但它无法真正理解因果关系。例如，Facebook可能会因为你在通讯录中保存了李四的电话和地址而认为你们是好朋友，但这可能是因为你实际上在跟踪李四。因此，机器学习的推荐系统有时会得出错误的结论。

此外，机器学习缺乏可靠的意图预测工具。人类学研究表明，“没有对话，意图就是不可知的”。例如，Facebook的面部识别系统对白人面孔的识别准确率较高，主要是因为该系统主要由白人团队设计，数据集也主要包含白人面孔。

机器学习的潜在危害

机器学习的保守性导致了一些潜在的问题。例如，如果将机器学习应用于警务领域，系统可能会建议抓捕“与已抓捕人员相似的人”。人权数据分析组织的Patrick Ball指出：“警察使用的预测系统并不是预测犯罪，而是预测警察的行为。”

机器学习与社会价值观

尽管机器学习在数据分析方面发挥了重要作用，但其背后的决策往往反映了设计者的价值观和习惯。例如，英国政府曾请精神药理学家David Nutt对非医疗用途的精神药物进行风险排序，以便制定相应的管理政策。Nutt和他的团队进行了详细的研究，提出了多个排序标准，但最终的选择取决于人类的价值判断，而非单纯的准确性。

总的来说，机器学习在推动科技进步的同时，也需要我们警惕其保守性和潜在的负面影响。我们应该更加重视其对不同群体的影响，并在决策过程中考虑更广泛的社会价值观。