明明购买的是同一件商品,会员价格却比普通用户更高?这种情况在网购过程中可能屡见不鲜。今年315“国际消费者权益保护日”期间,上海消保委特别关注了这一现象。上海消保委认为,算法的不透明性使得大数据杀熟行为更加隐秘且难以察觉,因此呼吁尽快出台相关法规,以促进平台算法的公平性。
在大数据背景下,互联网平台通过不断优化算法和提升计算能力,为消费者提供了更加便捷的服务。然而,在交易效率提高的同时,算法的不透明性也给消费者维权和市场竞争带来了新的挑战。
所谓大数据杀熟,是指利用数字技术手段对消费者实施价格歧视的行为,本质上是差异化定价。上海消保委指出,消费者反感大数据杀熟的原因在于平台可能存在欺诈行为,而这种欺诈行为会导致交易不公平。
初代的大数据杀熟主要表现为对熟客收取更高的价格。由于新客户通常会在不同平台进行比价,因此他们对价格更加敏感,而老客户由于习惯于使用特定供应商,较少货比三家。因此,平台会对熟客展示较高的价格。
上海消保委观察到,随着算法的迅速迭代,平台杀熟的方式也在不断升级,例如价格表现得更加隐蔽,更容易被合理化解释。
例如,上海消保委曾对多个平台的订房、买菜等业务进行测试,发现不同账号之间的价格差异比以前更大。与过去不同的是,现在的“千人千价”是由原价与各种优惠券组成的。这些优惠券并不是账户内原有的,而是由算法临时生成的。算法还会为这些优惠券提供各种理由,如“上个月你打过车”或“前天你买过菜”等。
此外,上海消保委还发现,平台根据个人资料匹配的产品广告或内容推送也有所不同。2020年下半年,上海消保委曾使用多个手机终端模拟不同收入群体的消费者使用同一款APP,并进行了一段时间的操作。测试发现,不同手机接收到的广告差异显著,模拟低收入人群的手机频繁接收到各类低价劣质商品和网络贷款广告。
上海消保委副秘书长唐健盛告诉南都记者,初代杀熟行为主要是算法的简单判断,而二代杀熟行为则是基于大量数据,其中的“熟”不再是“熟客”,而是被平台充分掌握个人信息的“熟人”。
在个性化推送下,平台实现“千人千面”和“千人千价”并非难事,但由此产生的问题值得重视。
以基于算法的个性化内容推送为例,上海消保委认为,这可能会扩大个体间认知的偏差。平台出于商业目的的算法歧视,可能导致“信息茧房”,损害消费者的知情权。此外,基于歧视性算法的产品匹配本质上是平台滥用算法权力,消费者由于缺乏免受算法决策支配的“退出”权利,一定程度上丧失了依法享有的选择权。
基于歧视性算法的价格组合,上海消保委认为,这是对消费者公平交易权的侵害。算法从接受输入数据到输出决策结果的全过程,形成一个外界无法获知的“黑箱”。算法在此过程中处理、评估和分析数据,并根据具体场景作出决策。算法“黑箱”的不透明性导致二代大数据杀熟行为更加隐蔽且难以察觉。
唐健盛表示:“最大的侵权行为往往是消费者难以感知的。”他认为,大数据杀熟的结果是以牺牲消费者权益为代价,换取平台数据价值的最大化。
值得注意的是,去年12月召开的地方经济工作会议明确将“强化反垄断和防止资本无序扩张”作为2021年经济工作的重点之一,要求依法规范发展,健全数字规则,完善平台企业垄断认定、数据收集使用管理和消费者权益保护等方面的法律规范。
为此,上海消保委呼吁健全数字规则,尽快出台算法规制,促进平台算法公平,保护消费者合法权益。
南都记者注意到,今年两会期间,民进中央提交了一份关于推动人工智能产业健康发展的提案,建议加强对算法的监管,建立算法开发者责任制,并充分保障个人信息安全。
全国人大代表、苏州大学校长熊思东在接受南都记者采访时表示,算法的问题在于人如何使用它。一方面,需要通过科学手段避免技术被非人道和错误地使用;另一方面,需要加强监管,确保新技术健康发展。