大数据时代的算法歧视及其法律规制
作者头像
  • 汇桔云
  • 2020-08-12 08:01:56 2

在大数据时代,数据作为基础资源,算法决策成为核心引擎。虽然数据本身具有客观中立性,但人为设计的算法却可能隐藏偏见。例如,在就业领域,某些特殊群体在职位推荐和筛选过程中经常受到搜索引擎的不公平对待;在市场营销方面,互联网平台通过对消费者购买或阅读记录的分析,根据用户的兴趣和消费水平不同,即使提供相同质量的商品或服务,也会采取不同的定价策略。这种在算法自动化决策中产生的不公平现象被称为算法歧视或算法偏见。

随着算法决策渗透到日常生活的各个角落和社会管理的各个方面,算法歧视以更加隐蔽的方式显现,可能导致就业、交易、理财等多个领域的不公平对待,影响社会公平正义。因此,有必要通过法律手段对其进行规范。

准确理解算法歧视的产生机制是对其进行有效治理的前提。算法歧视的原因主要有三方面:一是算法本身带有价值倾向。算法并非完全客观,设计者的价值观念可能被嵌入到数据收集、标注和处理的过程中,从而影响算法的结果。二是数据输入的局限性和错误性。如果数据收集时包含了对特定地区或人群的歧视行为,或者数据样本本身就带有偏见,那么算法训练出的数据也会受到影响。三是算法“黑箱”的不透明性。算法处理数据、评估和分析的过程对外界不可见,这使得歧视行为更加隐蔽,难以被发现,从而助长了某些算法设计者和运营者为了追求经济利益而产生的歧视行为。

法律应当积极应对时代的变迁和需求,针对算法歧视的法律规制应结合具体场景和现有问题逐步推进。目前,欧盟主要通过《通用数据保护条例》中的“数据净化”条款,从源头上消除特定类型的数据,以防止敏感数据对数据主体造成歧视,总体上遵循以数据保护为核心的治理路径。此外,一些国家转向以结果为导向的算法审查,旨在平衡企业的经济效益与社会公共利益。针对中国当前出现的具体情况,对算法歧视的法律规制可以从以下几个方面展开:

建立算法运行的基本原则

在规制算法歧视的理念层面,应首先确立算法公正这一宏观指导原则。平等作为一项基本准则和权利已被纳入多项法律法规,算法公正则是这一法律原则在数据智能领域的延伸。在算法公正原则的指导下,无论是算法的开发者、监管者还是运营者,都应自觉维护公民的平等权益,避免对特定群体或地区进行不合理区别对待。在实际操作中,各方应遵循包括算法透明、算法解释、算法问责、算法包容和算法审查等在内的具体细则。

合理分配相关主体的权利和义务

从多元主体利益平衡的角度出发,规制算法歧视应当赋予个人更多的权力,并对算法权利进行限制。首先,应赋予个人更多的权利,包括赋予公民免受算法决策支配的“选择加入”权,以降低遭受算法歧视的风险;其次,应赋予公民对其个人信息的控制权,使其有权限制企业收集其个人信息的范围,并有权要求企业对其收集的信息进行解释和删除。其次,应加强对算法权利的控制,要求算法设计者和运营者履行算法审查、算法风险评估和算法解释等义务,确保算法应用过程中产生的歧视行为能够得到事先预防、事中控制和事后纠正,通过全过程的风险管理来抑制和约束其行为。

建立专门的算法违规问责机制

当预防措施无法有效遏制算法控制者的歧视行为时,必须追究算法歧视造成主体权益损害的责任。具体而言,问责机制的建立包括两方面内容:一是明确侵权者并要求其承担责任。应通过设计合适的归责原则和因果关系认定规则,明确算法歧视的责任主体,尤其是涉及算法设计者和运营者责任划分的问题,并在此基础上确定各主体应承担的民事或行政责任。二是建立受损方权益保护的救济渠道。一方面,算法运营者应通过适当方式确保受损方有充分的质询、反馈和投诉渠道,并对受损方提出的诉求及时回应和解决;另一方面,应建立相应的集体诉讼制度,使受损方能够通过司法途径维护自身权益。集体诉讼有助于改善受损方与算法控制者之间的信息和资源不对等状态,提升受损方的谈判和议价能力,是缓解受损方弱势地位并保障其诉讼权益的有效方法。

    本文来源:图灵汇
责任编辑: : 汇桔云
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
算法歧视及其法律时代数据
    下一篇