谷歌今日宣布推出一项新的AI技术，旨在识别和减少网上儿童性虐待材料的传播。这一举措是为了应对之前谷歌在网上传播此类内容的问题。英国外交部长Jeremy Hunt曾批评谷歌重返中国的计划，认为这会导致儿童虐待内容在网络上的扩散。

谷歌正在考虑对其在中国的内容进行审查，但不会与其他五国合作共同打击虐待儿童的行为，这一点显得不同寻常。过去，谷歌一直以自己的价值观为荣。

近日，英国内政大臣Sajid Javid呼吁科技公司如谷歌和Facebook等采取更多行动，对抗网上儿童性虐待图片。英国国家犯罪调查局指出，大约有80000名英国用户在网上对儿童构成威胁，这一倡议正是在这一背景下提出的。

谷歌的这项新技术基于深度神经网络（DNN）构建，通过新的Content Safety API，免费提供给非政府组织及产业合作伙伴，包括其他科技公司。这项技术的目标是加快识别新图像的速度，以便更快地锁定和处理儿童性虐待材料。

去年，伦敦警察局曾开发一种AI解决方案，专门用于评估图像的严重性。谷歌的新工具进一步增强了这一解决方案的效果，不仅加快了识别速度，还能减少审查人员的心理负担。据工程主管Nikola Todorovic和产品经理Abhi Chaudhuri介绍，借助Content Safety API，可以更高效地追踪到违法者，从而保护受害儿童。

目前，大多数技术公司都在利用AI来监控各种冒犯性内容，如裸体图片和恶意评论等。谷歌的新技术显著提高了对潜在儿童性虐待材料的审查效率，审查速度提升了700%。

作为谷歌的合作伙伴，联合国慈善机构互联网观察基金会（IWF）参与了这项工具的发布。IWF致力于减少潜在犯罪互联网内容的传播，尤其是儿童性虐待图片。IWF首席执行官Susie Hargreaves表示，这种AI工具将帮助人类专家更有效地审查材料，并通过锁定未被标记为非法的图像来追踪违法者，从而创造一个更加安全的网络环境。

原文作者：PAUL SAWERS

编译：信息化观察网