机器学习热潮不仅在学术研究和实际应用中引起了广泛的关注，也引发了一些深刻的思考。记者兼科幻作家Cory Doctorow最近撰文，提出了一个独特且有趣的视角，引发了对机器学习本质的探讨。

作为一名长期关注现代科技的爱好者，Doctorow表示，尽管他读过很多关于科技批判的文章，但近年来的机器学习热潮却尤为显著。从媒体报导到企业宣传，机器学习似乎无处不在，为人们的生活带来了许多高科技的产品和服务。

然而，在这一切美好愿景的背后，也存在一些令人担忧的声音。蒙特利尔麦吉尔大学的Molly Sauter曾在2017年撰写了一篇名为《即时回忆》的文章，其中提到：“机器学习本质上是保守的。”她指出，机器学习倾向于维持现状，无法改变事物的发展方向。例如，如果你曾经用“Hey darling”作为短信开头，那么在后续输入“Hey”时，“darling”往往会自动出现在建议列表的首位，即使这次你可能只是想发送分手的消息。同样，当输入一个你从未使用过的词语时，自动补全功能会根据所有用户的统计数据推荐最常出现的词汇，这可能会导致尴尬的情况发生。

这种保守性在机器学习算法的应用中普遍存在。例如，当你在网上搜索“冰箱”时，算法会将你标记为潜在的购买者，并不断推送冰箱相关的广告，即使你已经购买了。或者，你在视频网站上出于好奇搜索了一个冷门话题，即使不再感兴趣，系统仍然会反复推荐这个话题。在社交媒体上，关注某人后，系统会推荐与其相似的人，即使你并不清楚为何会对这些人感兴趣。

尽管机器学习具有强大的关联性识别能力，但它无法理解因果关系。例如，如果一个人的通讯录中存储了另一个人的电话和地址，这并不一定意味着他们是好朋友，也可能是因为前者在跟踪后者。在这种情况下，机器学习系统可能会做出错误的推断，导致不良后果。

此外，机器学习缺乏可靠的意图预测能力。正如人类学的基础定理所述，没有对话的情况下，意图是不可知的。因此，机器学习系统很难准确判断某些行为背后的真正意图。

机器学习的核心在于寻找与现有模型相似的事物。例如，它擅长识别与已知车型相似的车辆，或识别与已知人脸相似的人脸。这也解释了为什么面部识别系统对白人面孔的识别准确性较高，因为这些系统往往是由白人圈子设计和训练的。

机器学习的弊端在于其保守性。例如，如果一个系统被用于预测警方应抓捕的对象，它很可能只会建议抓捕与已有案例相似的人。人权数据分析专家Patrick Ball认为，这样的系统实际上只是预测警方的行为，而非真正的犯罪预测。

值得注意的是，警察基于自身判断决定逮捕某人与依据系统预测做出逮捕决定之间存在差异。对于不了解系统运作细节的人来说，算法的决策更容易被视为客观公正，因为“数学是没有偏见的”。然而，机器学习不仅仅是数学问题，它反映的是设计者的价值观和习惯。

例如，在英国，药物分类就是一个例子。精神病学家David Nutt曾被要求对非医疗用途的精神类药物进行风险排序，以便政府制定相应的管理政策。尽管数据提供了大量实证支持，但最终的排序仍需要人类的价值判断。

数据分析历史悠久，为我们的生活带来了便利。然而，依赖不透明的算法来决定我们的行为和选择，可能会导致固定流程化的处理方式，忽视人文关怀。科学技术的重要性毋庸置疑，但更重要的是，我们应该关注这些技术究竟影响了谁，以及在谁的立场上做出这些决策。