随着人工智能技术日益融入我们的生活，表面上看，这些技术似乎没有性别之分。然而，当我们呼唤“小爱同学”或“天猫精灵”这样的智能音箱时，为什么总是听到甜美可亲的女性声音呢？

在大数据处理领域，女性通常被认为更加细心，更擅长处理数据标注和检查等任务。南京大学艺术学院的副教授陈静注意到这一现象，并认为人工智能仍然是人类世界的延伸，我们对性别、种族和年龄的偏见不可避免地带入其中，而对数据和科技的盲目崇拜甚至会进一步加剧这些偏见。

澎湃新闻采访了陈静，探讨了人文艺术学者眼中的“人工智能”。除了性别偏见问题外，数字劳动也是该行业长期被忽视的重要议题。面对强大的技术和商业逻辑，人文学者的关注是否有效？

以下是陈静的访谈记录：

性别偏见在人工智能中的延续

我们注意到，虚拟形象和语音助手大多是女性。为什么？这是因为女性长期以来被视为服务性角色。这种职业分工中的性别偏见在数字世界依然存在。我们希望与一个温暖可爱的人建立亲密关系，而这种陪伴的角色通常被认为是女性。因此，我们使用的智能设备中内置的语音助手大多具有甜美亲切的女声。

作为一位女性主义者，我在研究中始终关注性别视角，比如社会性别如何在数据科学中呈现。我的博士论文研究了数字文化和电子书写，之后在美国做博士后期间，我转向了数字档案和数字人文的研究，开始亲自处理数据。

有时，我会被问及女性是否适合数字技术。虽然有些人称赞我对数据敏感，但这种评价实际上带有贬低意味，暗示女性不擅长数据科学。

“女性”适合做什么不适合做什么，这是社会建构的结果。尽管我在日常生活中不太在意自己的性别，但在选择男女厕所时，我才会意识到自己是女性。这种瞬间的选择形成了我们的社会性别规范，并成为他人指导我们决策的依据。

然而，女性从业者数量较少与大数据领域的偏见之间并没有直接因果关系。性别偏见存在于大数据生产的各个环节。有人认为，即使女性工程师人数增加，也不一定能改变现状。确实，女性工程师增多并不会自动解决问题，因为女性群体内部也存在各种偏见。

然而，可以预见的是，随着从事大数据工作的女性人数增加，群体中具有明确性别意识的人数也会相应增加。女性工程师增多会使女性的声音更加响亮，提供不同的性别视角。

最近，澎湃研究所的沈虹在一篇文章中提到，在“ImageNet人类数据集中”，一名穿比基尼的女人被标记为荡妇，一名中年亚裔女性被标记为女仆。沈虹提到的ImageNet数据集由斯坦福大学的李飞飞教授及其团队历时多年构建，通过她本人及其学生标记，以及亚马逊众包平台上的公众标记完成。

我们日常语言看似“自然”“客观”，但实际上都带有主观色彩。图像训练数据集的标记遵循标记人员的语言习惯，受到其主观观点的影响，包括教育背景、表达能力和思维方式等因素。

例如，沈虹提到的ImageNet下属的“Human”数据集反映出的偏见，正是制定和执行标记规则的人如何通过看似客观的标记行为，将包含偏见与歧视的认知转移到看似科学的数据集中。

由于这一过程隐藏在算法背后，其偏见性也被掩盖了。社会学家凯特·克劳福德和艺术家特雷弗·格伦通过算法揭示了这一隐藏的偏见，使我们认识到，看似智能的算法背后，延续了人类社会中固有的性别偏见，甚至更加隐蔽和具有欺骗性。

人工智能中的“人工问题”

另一个我想强调的是，现在人们对技术抱有一种天真的幻想，认为只需运行数据，结果就会立刻显现，其实并非如此。大数据背后隐藏了大量的劳动力。

数据科学是一个非常耗人力的产业，某种程度上，它与制造业相似。很多人不知道，底层数据的获取和有效性确认很大程度上依赖人工操作。

然而，现在的大环境有意忽略了人工智能中的人工问题，如人工标记的时间和偏见问题、数据降维过程中的简化问题、数据获取中的知识产权问题等。

学术界当然讨论过这些问题，但多数时候是在回避，原因很简单，因为这些问题不是成果，而是底层的基础问题。就像你做产品，最后卖的是成品，没有人关心这个产品是谁做的，怎么做的。

这些问题属于社会学、人类学和文化研究的议题，而不是数据产业的核心议题。这也是可以理解的，这些问题会降低人们对数字产业的热情。现在大部分情况下，都在强调人工智能的优势，人们在涉及利益时，会刻意忽略背后的负面因素。

归根结底，这仍然是观念问题。人工智能不是一个技术主导的世界，它依然是人类主导的世界。

有些被隐藏的偏见和歧视确实需要人文关怀才能被发现，但我很怀疑人文学者的关怀是否有用。业界的人永远比我们行动得更快，商家已经在各种方式获取和应用我们的数据。如今，连上厕所抽一张卫生纸，也要扫码授权基本信息。

此外，社会发展到现在已经远远超出了可以用经济基础与上层建筑二元论解释的时代。现在的社会组织结构和社会生产方式极其复杂，对主体和文化的影响力也十分复杂。大数据产业不断生产数据，获取和处理数据的方式日益复杂，甚至越来越难以察觉。

但我们仍然需要采取措施，技术变革的大趋势不是单纯依靠个人努力或抵抗可以改变的，我们必须与其共存，并在共存的关系中相互调整和影响，才能实现相互制约。

如果产业永远比我们行动得快，还有什么办法可以约束他们？“不作恶”是基本的科技伦理。例如，在“黑命攸关”运动中，微软和亚马逊等大公司以面部识别技术为筹码，声明他们不会向美国政府提供这项技术，这就是“不作恶”。

那么，“科技向善”有可能实现吗？“科技向善”是一种美好的理想，但它只是表明在努力变得更好。然而，技术本身并不是中立的，其发展也不遵循人文逻辑。科技有自己的逻辑，甚至有时会忽略人的因素。

从互联网的诞生到数字技术、人工智能，一直都有理想主义的想法，相信科技平等和民主。但实现这一点很难，需要科技和人文双方共同努力。而科技与商业的结合比科技与人文的结合要紧密得多。

人文艺术实际上起到了调节阀的作用，对科技发展方向进行调节。技术向善只有在人文艺术的外部干预下——无论是从外部主动作用于科技研发和公司精英，还是从外部批判性地作用于企业和文化的情况下才能实现。

如果一家公司规模足够大，就需要承担一定的社会责任。因此，许多大公司都在做慈善，一边赚钱，一边花钱。许多公司都有公共事务部门，做慈善，也会与学术界合作一些研究项目。但这不会触及他们的利益底线。我们能否寄希望于企业的自发“向善”？不能如此天真，社会仍需多种因素的制约和平衡。

而人文艺术和社会科学的存在，就是为了说真话。