近期,今日头条发布了2023年度平台管理报告(简称“报告”),全面披露了平台针对网络假信息、网络欺诈及网络暴力等领域的管控措施。据报告指出,平台在过去一年里共处理了109万条假信息,拦截了167万条潜在欺诈内容,并识别并处理了2.4亿条不友善评论。
信息时代的复杂性,加之AI技术的快速进步,为网络生态带来了前所未有的机遇与挑战,特别是假信息的泛滥成为社会关注焦点。面对这一问题,今日头条构建了一套完整的假信息处理流程,包括信息发现、识别、追踪、回溯、标注以及辟谣六个关键步骤,形成了完善的谣言治理体系。
为验证假信息,平台设立了专门的知识数据库,并利用该库构建分析模型,对疑似假信息进行比对验证。截至2023年,知识数据库新增知识条目超过1.2万项。一旦假信息被证实,平台迅速锁定源头内容与账号,并对假信息贴上标识,阻止其进一步传播。对于涉及假信息的账号,平台采取分级处理措施,全年累计封禁和禁言了2000多个账号。
除了假信息,平台还持续加强反欺诈策略的研究与实施,通过技术手段和运营措施,对易受骗用户进行电话预警,有效拦截了167万条欺诈内容,禁封违规账号逾10万个,举报数量呈现下降趋势。
同时,平台致力于防范和打击侵害用户权利的行为,强化网络暴力治理,通过优化“一键防护”功能、评论权限设置和不友善信息警示等功能,累计识别并处理了2.4亿条不友善评论。今日头条相关负责人强调,平台治理工作需要多方合作,平台愿携手各界共同努力,为用户提供一个绿色、健康、清朗的网络环境。
注:图片展示的是今日头条2023年度平台治理报告的详细内容概览。