国产替代潮流涌动,百融云创入信创万亿大局
作者头像
  • 黄莹
  • 2023-05-29 00:00:00 3046

导读:

元数据,即与数字图像文件相关的数据,能揭示图片的基本信息,如拍摄时间、地点等。当前,众多科技企业已着手在其产品中整合技术,以标记人工智能生成的内容。然而,在找到可靠解决方案前,事实核查工作主要依赖人工审核。

文章正文:

在数字时代,元数据扮演着关键角色,它提供了数字图像的原始信息,包括拍摄时间与地点。随着科技公司不断探索,更多产品开始支持将此类技术应用于标记人工智能生成的内容,以增强内容的可信度。尽管如此,面对人工智能生成内容的快速增长,人工审核仍是弥补不足的重要手段。

Witness组织的执行主任,萨姆·格雷戈里强调,设计、构建及发布人工智能工具的责任在于这些工具的创造者。当前,社交媒体平台在管理人工智能生成内容方面的政策尚不完善。

人工智能生成工具如ChatGPT、DALL-E、Midjourney等显著降低了创建虚假图像、视频和文本的成本与难度,导致网络上充斥着难以辨别的AI生成内容。谷歌、Adobe、微软等科技巨头正积极寻找对策,尝试通过元数据、水印等技术手段,帮助用户识别内容的真实性。

微软计划在其两款应用中加入水印与元数据功能,Adobe开发了追踪AI编辑内容的凭据工具,而谷歌则计划在其图片中标记AI生成的内容,并与Midjourney等合作伙伴协同工作。然而,这些解决方案仍处在起步阶段,人工审核仍然是不可或缺的补充。

根据欧盟执法机构“欧洲刑警组织”的预测,到2026年,互联网上至少90%的内容将由人工智能创建或编辑。面对这一趋势,科技公司正积极探索创新方法,如利用元数据与水印,以识别内容的来源与生成方式。

微软通过其年度Build大会发布的功能,在AI生成的图片与视频上添加水印与元数据,微软计划在未来几个月内在Designer与Image Creator应用中实施这一功能。Adobe则推出了内容凭据工具,用于追踪图像被AI编辑的历程,无论文件是在何处发布或存储,凭据都将随文件保存。

谷歌在I/O 2023开发者大会上宣布,未来几个月内,AI生成的结果将标记版权声明,并在图像文件中标注元数据。此外,谷歌与Midjourney、Shutterstock等合作,让这些平台自行标记谷歌搜索中的AI生成图像。谷歌还新增了“关于此图像”功能,帮助用户获取更多信息。

为了统一标准,包括微软、Adobe、BBC与英特尔在内的多家大型企业联合成立了C2PA(内容来源与真实性联盟),制定了互操作的开放标准,旨在共享媒体的来源或所有权历史。C2PA标准已被Adobe与微软纳入其产品中,如Adobe的AI Firefly产品与微软的Image Generator与Designer应用。

格雷戈里指出,虽然添加水印等技术方案前景光明,但事实核查者面临的挑战不容忽视。在AI生成内容激增的背景下,审核任务变得愈发繁重,这考验着事实核查者的效率与能力。他呼吁,责任应由人工智能工具的设计者与发布者承担,同时强调社交媒体平台需完善相关政策。

TikTok在2023年3月更新了关于“合成内容”的规定,允许使用AI生成内容,但需明确标注,避免使用非公共人物或18岁以下人士的肖像。TikTok与其他行业组织合作,共同推进负责任的AI实践框架。

面对AI技术的快速发展,全球科技公司与行业组织正共同努力,寻求有效策略,以识别与标记AI生成内容,同时加强事实核查机制,共同维护网络环境的真实与可信。虽然当前解决方案仍处于初期阶段,但通过持续的技术创新与合作,有望逐步解决这一挑战。

结语:

人工智能生成内容的兴起为数字世界带来了前所未有的创造力与可能性,同时也引发了对内容真实性的担忧。科技公司、行业组织与社会各界正携手合作,通过技术革新与政策完善,共同应对这一挑战,旨在确保网络空间的信息真实可信,为用户带来安全、可靠的内容体验。

    本文来源:图灵汇
责任编辑: : 黄莹
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
大局万亿涌动替代潮流国产云创入
    下一篇