社交网站上的虚假账号常常被欺诈者用来传播垃圾邮件、网络钓鱼链接或恶意软件。无论是平台上的普通用户还是平台自身，这些虚假账号都会带来巨大的风险。

为了应对这一问题，Facebook推出了名为DEC（深度实体分类系统）的工具，这是一个利用机器学习技术识别虚假账号的系统。据Facebook透露，DEC不仅评估可疑账号的行为，还评估这些账号的关联信息，例如其互动账号和浏览页面的行为。自使用该工具以来，垃圾邮件和欺诈账号数量减少了约27%。

根据Facebook公布的信息，DEC可以区分两种类型的虚假账号。第一种是错误分类的账号，即那些被误标为商业信息页面的个人账号。处理这类账号相对简单，只需修改其个人信息即可。第二种是违规账号，涉及欺诈、垃圾邮件及违反平台使用条款的行为。处理这种账号较为复杂，平台需要迅速删除这些违规账号，同时避免误删真实用户账号。

DEC的主要功能是通过分析用户的社交关系模式来识别真假用户。这些模式被称为“深度特征”，包括用户的平均朋友年龄或性别分布等信息。Facebook使用超过两万个深度特征来构建用户画像，使系统能够理解每个用户的行为，从而使得攻击者难以改变策略来逃避监测。

深度特征的提取过程始于大量低精度的机器生成标签，这些标签通过混合规则和其他机器学习模型生成，用于判断用户的真实性。随后，这些标签用于训练神经网络，再结合少量高精度的人工标注数据对整个模型进行微调。这部分人工标注数据由世界各地熟悉当地文化的人员生成。

最终，系统能够识别出四种类型的虚假账号：非法账号、已被欺诈者控制的真实账号、频繁发送垃圾邮件的账号以及滥用账号泄露个人信息的账号。

2019年，Facebook每个季度平均删除20亿个虚假账号。自使用DEC以来，Facebook声称虚假账号数量一直保持在月活跃用户的5%左右。即便如此，这个比例仍然不容忽视，在月活跃用户达到25亿的情况下，平台仍存在约1.25亿个虚假账号。

随着2020年美国总统大选临近，Facebook此时公布了DEC系统的详细信息，似乎有些巧合。此前，Facebook因未能有效保护用户数据而受到批评，导致用户数据被第三方利用影响选举。“我们只是发现了普遍的违法行为，”Facebook社区诚信团队的工程经理Daniel Bernhardt在接受采访时说，“Facebook并没有专门针对任何特定的选举主题。”