美国劳工统计局运用机器学习自动执行数据编码
作者头像
  • 中新经纬
  • 2020-08-26 14:38:13 5

政府机构常常处理大量的文件,包括纸质和电子文档。处理和解读这些文件需要耗费大量的人力资源。因此,联邦机构希望通过先进的机器学习、神经网络和自然语言处理(NLP)技术来提高文档处理效率,从而释放人力资源。

美国劳工统计局(BLS)的一个主要任务是进行职业伤害和疾病调查,以保障工作场所的安全,并为政策制定提供指导。为了完成这项任务,劳工局在全国各地的办公室中雇佣了大量训练有素的员工,负责收集和分析工作场所的调查数据,以识别和分类伤害和疾病。然而,这些工作长期以来一直依赖手工操作,导致标记和编码错误频发,影响整体工作效率。

为了提高效率,劳工局决定采用机器学习技术。大约十年前,经济学家亚历克斯·米切尔开始探索机器学习如何帮助劳工局改进工作流程。他分享了将人工智能技术引入政府机构可能面临的挑战、数据难题以及未来几年他期待的重要进展。

在这篇文章中,我们将探讨亚历克斯·米切尔关于机器学习在政府业务中的应用,特别是在文档处理和人工流程中的见解。

问题:劳工局在数据收集和处理方面面临哪些独特的挑战?

亚历克斯·米切尔: 劳工局需要收集大量的专题信息,涵盖就业、劳动力成本、工作时间和工作场所伤害风险等多个领域。这些信息通常以自然语言的形式存在。在信息收集过程中,无论是通过访谈、问卷还是其他形式,大部分内容都是以语言形式呈现。我们需要将这些语言转化为统计数据,即所谓的编码过程。

在这个过程中,我们需要分配标准化的分类目标,以标识关键特征。例如,《职业伤害和疾病调查》每年收集数十万份与工作相关的伤害和疾病报告。为了回答像“门卫在工作中最常见的伤害原因是什么?”这样的问题,我们需要仔细阅读每一份描述,以编码方式将职业与造成伤害的因素联系起来。然后,我们将汇总这些信息以回答实际问题。直到最近,整个过程仍然非常繁琐,大部分工作仍需手动完成。

在职业伤害和疾病调查方面,我们每年大约需要25000个工作小时。如果希望加快进度,就需要增加人手,培训更多员工,并确保他们能够一致地解读内容。这非常困难。实际上,即使是有经验的专家,对于同一份描述的损伤编码分类,也只有70%的几率达成一致。这种挑战不仅存在于劳工局内部,也是全球许多类似机构共同面临的问题。

问题:劳工局是如何利用机器学习技术解决这些问题的?

亚历克斯·米切尔: 七年前,劳工局完成了《职业伤害和疾病调查》的所有编码工作。在过去的一年中,我们利用有监督的机器学习(尤其是深度神经网络)自动完成了超过85%的编码任务。随后,劳工局开始逐步将这些技术应用于其他相关任务,包括职业/行业分类、医疗福利和工作要求等。

问题:多年来,劳工局对人工智能技术的看法和应用方式经历了哪些变化?

亚历克斯·米切尔: 我大约12年前加入劳工局时,人们主要使用知识工程或基于规则的方法来进行编码。基本思路是,如果希望计算机执行某项任务,就需要明确告知它执行任务所需的每条规则和信息。例如,如果要对职业进行分类,就需要创建一个列表,列出所有可能出现的职称及其对应的职业代码。

这种方法在处理简单和标准化的任务时效果不错,但在处理复杂的人类语言时却几乎无效。例如,在《职业伤害和疾病调查》中,我们发现每年提交的2000种职位中,约有80%被系统直接对应为“管理人员”。更糟糕的是,总会有一些以前从未出现在数据中的新职位出现,而某些职位与特定行业的命名习惯密切相关。结果,我们需要制定庞大的、复杂的规则集,而这套系统既难以构建,也难以维护。

有监督的机器学习提供了一种替代方案。与其明确告知计算机它需要了解和执行的任务,现在我们可以引导计算机通过数据学习,自主找到执行某些任务的最佳方法。只要有大规模的数据集(劳工局已经积累了可观的数据资源),通常只需要少量的人工投入就能构建出高效的系统。在我们的案例中,劳工局仅用几周时间就利用免费的开源软件构建了自己的第一个机器学习系统,并发现其性能远远超过了我们长期使用的、基于规则的昂贵方案。更令人惊讶的是,其性能甚至超过了我们的编码员。

与传统方法相比,机器学习方法也带来了更多的自动化空间。现在,劳工局和其他统计机构已经在类似任务中迅速推广这项技术。当然,机器学习在其他领域也有很好的表现。我们正在使用机器学习技术自动检测数据错误,并自动匹配和标记数据集中的缺失记录。这对劳工局来说意义重大,因为它可以帮助我们从多个来源收集大量数据。

问题:人工智能/机器学习技术的应用,对原来的编码员产生了什么影响?

亚历克斯·米切尔: 当最初考虑引入自动化解决方案时,许多人担心这会威胁到编码员的工作。但实际上,这取决于具体的实施方式和对整体情况的全面考虑。首先,我们很早就决定,自动化的主要目的是提高数据质量。这非常重要,因为除了数据质量本身的意义之外,这也是一种全新的处理方式,要求我们确保编码流程的正确执行,并在出现问题时及时启动可靠的备用计划。我们的计划主要包括以下几点:

  1. 将计算机最擅长的工作交给自动化处理,将人类最擅长的工作留给雇员。
  2. 逐步引入自动化机制,确保员工有时间适应工作量和工作方式的变化。
  3. 让员工监督自动化分配的代码,并在认为计算机存在错误时分配人员进行调整。
  4. 利用节省下来的时间和资源从事其他重要任务,如数据收集和审查。

结果,在接下来的六年里,越来越多的常规编码工作被更快、更高质量的数据审查和收集自动化方案取代。这还带来了一个意想不到的结果:虽然对常规手动编码的需求大大减少,但模型无法处理的高难度情况仍然依赖于人类专家。因此,自动化程度越高,可以处理的总数据量就越大,其中需要人为干预的情况也越多。因此,负责调整和验证机器学习系统是否正常运行的雇员反而增加了。

问题:在劳工局的实际应用中,人工智能技术发现了哪些有趣或出乎意料的见解?

亚历克斯·米切尔: 就我个人而言,我认为这里有两点非常有趣。首先是自由开源软件的存在,使得机器学习系统的构建变得如此容易,并且实际表现远超我们以往使用的昂贵、基于规则的方法。第二点是,这些系统在编码分配准确性方面甚至超过了经过培训的人类编码员。这些都是我们刚开始时难以想象的,事实上,整个劳工局花了很长时间才适应这些出色的表现,但结果确实非常稳定。

平均来看,自机器学习系统上线以来,其编码准确性一直高于人类雇员,随着大量数据的涌入以及随之进行的持续训练,两者之间的差距也在不断扩大。这也促使我们转向更强大的机器学习算法,例如深度神经网络。

问题:我们在数据使用方面面临哪些独特的挑战?这些挑战是否会成为政府机构在应用人工智能技术方面的障碍?

亚历克斯·米切尔: 最大的挑战之一是数据保密性。机器学习需要大量数据,而政府机构拥有丰富的实用数据,但不能随意公开使用——这无疑限制了各机构应用机器学习技术的具体路径。例如,在我们第一次尝试使用深度神经网络时,无法直接使用云计算资源,因为现有政策禁止这样做。这构成了一个大问题,因为劳工局显然没有足够的硬件来训练我们所需的神经网络模型。最终,我们通过外部采购和安装必要的硬件解决了这个问题,但许多其他机构可能难以跨越这个门槛。

另一个重要的挑战是模型共享。当劳工局开发出能够自动对职业或损伤进行标准化分类的机器学习模型时,这一成果不仅可以服务于劳工局自身,对于其他处理类似任务的联邦机构同样意义重大,甚至可以为外部研究人员提供巨大帮助。由于我们掌握了大量相关数据,因此劳工局等政府机构在训练这类模型方面具有特殊优势。但研究表明,这些模型可能会无意中泄露训练过程中使用的数据信息,这就要求我们在模型共享方面格外谨慎。最近的研究表明,某些技术有望缓解这些风险,劳工局已经开始探索,但这仍然是一个非常艰巨的挑战。

问题:从更广泛的角度来看,联邦政府中的哪些领域有望通过人工智能技术实现显著的效率提升?

亚历克斯·米切尔: 在政府机构工作的这段时间里,我认为几乎所有联邦机构都有望通过有监督的机器学习技术实现日常任务的自动化。统计机构就是典型的例子,它们的主要工作就是语言编码和分类。目前,越来越多的统计机构已经开始使用类似的技术自动检测错误,并匹配来自不同数据集的记录内容。

问题:联邦机构可以采取哪些措施以吸引那些具有创新技术能力的高素质人才?

亚历克斯·米切尔: 我认为,联邦机构吸引人才的最佳方法是强调使命感和荣誉感。联邦机构关注的是最重要的任务,一旦成功将造福整个国家,这对具有强烈公民意识的人才极具吸引力。毕竟,有意义的项目并不是那么容易接触到的。此外,外部招聘并不是吸引熟练人才的唯一途径。劳工局的许多编码项目和后续机器学习尝试依靠的并不是外部AI专家,而是通过培养、对自动化技术抱有浓厚兴趣的内部员工。当然,在此期间,像Coursera这样的免费在线教育资源发挥了重要作用。

劳工局之所以能走通这条路,是因为员工已经在统计领域积累了丰富的经验。可以肯定的是,成功的机器学习项目既需要强调技术层面,也需要关注专业知识的积累。政府雇员对专业领域的理解已经非常深入,互联网上又有大量可以自由获取的资源来建立技术基础,这两者就这样协调一致起来。

问题:展望未来几年,你最期待哪些人工智能技术成果?

亚历克斯·米切尔: 我的工作主要依赖于有监督的机器学习,但其中仍有一个重要的局限。我们需要大量的训练数据才能获得良好的性能,这里说的不是大量数据,而是远远超过普通人学习所需的庞大数据集。在大多数情况下,我们需要为模型提供数百甚至数千个训练数据示例,才能让它掌握某种相关概念。这是一个巨大的障碍,因为在大多数应用场景中,无法提供这么多的数据。

近年来,研究人员在这方面取得了显著进展。这种进步主要来自两个方面:

一是迁移学习,即将一项任务中学到的知识转移到另一项任务上,有时也被称为自我监督学习。这基本上就是将有监督学习技术应用于未标记的数据。最近,一种流行的自我监督语言任务开始受到重视,即首先收集大量文本,然后随机采样其中的一部分子集,隐藏采样中的某些单词,训练模型根据上下文预测缺失的部分。只要能够正确完成这一操作,我们就可以获得一个对语言有深刻理解的模型,而不需要任何显式的标签。接下来,我们可以通过迁移学习将该技术应用于不同的语言处理任务,例如预测损伤分类。如果一切顺利,这可以显著减少自动化任务所需的训练数据量。这无疑为目前因缺乏训练数据而无法实现自动化的许多应用场景,打开了机器学习的大门。

我们关注的另一个重要领域是差分隐私,它在AI内外都有应用。最新的进展带来了一种全新的机制,可以在共享机器学习模型的同时,严格保护基础训练数据的隐私。这一领域的进展有望加速可信数据收集方之间的自动化成果流通(例如训练好的机器学习模型和统计估计值),同时提升基础数据的保密性水平。

    本文来源:图灵汇
责任编辑: : 中新经纬
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
美国劳工统计局编码运用机器执行自动数据学习
    下一篇