语音识别发展必牺牲隐私?最大问题或因不符用户预期,需增透明性
作者头像
  • 许晨
  • 2023-06-28 10:59:34 8

今年以来,科技巨头苹果、谷歌、亚马逊、脸书和微软的语音助手接连陷入“监听门”事件。专家表示,在当前的弱人工智能阶段,人工监听和分析仍然是必要的手段。

那么,如何解决语音识别技术发展与隐私保护之间的矛盾?9月17日,在国家网络安全宣传周的个人信息保护高峰论坛上,小米集团法务总监朱玲凤尝试结合行业已有实践作出回应。

“语音助手是人工智能领域的重要应用之一。”她指出,自2010年起,互联网巨头们通过自主研发或并购等方式逐步探索智能语音行业,包括苹果的Siri、谷歌的Google Assistant和亚马逊的Alexa等。在国内,阿里巴巴、百度和小米等企业也纷纷进入智能音箱市场。据Canalys预计,到今年年底,中国智能音箱保有量将超过5990万台,较2018年底的2250万台增长166%,普及率将达到13%。语音助手已成为日常生活中不可或缺的一部分。

然而,智能语音助手市场的迅速扩张离不开海量用户数据的支持,随之而来的是隐私问题的凸显。今年7月,苹果被曝雇佣外包商监听用户与Siri的对话,其中包括位置信息和联系方式等敏感信息。亚马逊Alexa、谷歌Assistant、微软Skype等也出现过类似情况。

朱玲凤指出,当前的语音识别技术仍需依赖人工标注和分类才能提升识别能力。具体而言,这一过程包括将语音资料输入系统,由人工进行分析、分类和标注,随后将其应用于模型验证。因此,在现阶段,人工标注是语音识别技术进步的关键步骤。

她进一步解释,用户对于语音助手的期望与实际使用体验之间存在冲突——用户不希望自己的私人对话被第三方获取,但这一过程又是技术发展的必要条件。朱玲凤认为,不应因用户预期不符而停止语音识别技术的发展,因为这项技术确实为老年人、儿童及残疾人带来了便利。

不过,是否需要牺牲用户隐私呢?朱玲凤认为,企业应采取更加尊重用户隐私的措施。例如,企业应遵循透明原则,明确告知用户可能存在的语音分析行为及其原因、数据保存期限等信息,并提供用户退出选项。苹果在隐私事件曝光后进行了相应调整,允许用户选择是否参与语音改进计划,从而决定是否上传录音数据。

此外,企业还可以采取其他安全措施,如使用随机标识符存储用户语音信息,避免与用户账号和电话号码关联。苹果Siri即采用这种方法,六个月后,相关数据将与标识符解绑。

朱玲凤还建议,企业可以引入非语音唤醒模式,例如通过长按Home键激活语音助手,以减少误唤醒的可能性。

    本文来源:图灵汇
责任编辑: : 许晨
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
透明性不符预期语音识别牺牲隐私用户发展问题
    下一篇