机器学习在高德用户反馈信息处理中的实际
作者头像
  • 朱柯颖
  • 2020-01-08 12:37:17 2

改写后的内容

作为国内领先的出行大数据公司,高德地图拥有大量的用户和合作伙伴,这使得高德能够收集到海量的出行数据。与此同时,用户也在不断地为我们提供宝贵的反馈信息,这些信息对于改善产品和服务至关重要。

本文将主要介绍如何利用机器学习的方法来处理用户反馈,提高数据处理效率,尽可能实现自动化处理。

一、关键术语解释

  • 情报:情报是指用于解决高德地图使用过程中具体问题的文本、图片或视频等信息。它本质上是关于道路或交通的知识,通过特定的空间和时间信息传达给用户。
  • 用户反馈:用户反馈是指用户通过各种媒介提供的关于他们使用软件的意见和建议,包括意见、建议和表扬等。

二、问题及解决方案

用户可以通过手机的Amap端或PC端等方式提交反馈。这些反馈通常包含一些选择项(如成绩来源、大类型、子类型和道路名称)和用户描述,用户描述通常是简短的文本。

高德每天收到的用户反馈量巨大,要实现即时反馈是一项挑战。当前的处理流程主要包括规则分类、人工核实和道路数据更新等步骤。具体来说,处理一个反馈需要经过情报识别、情报定位和情报验证等环节。

情报识别主要是判断反馈类型,即为情报打标签,包括分析用户提供的信息和检查上传的图片材料;情报定位主要是确定反馈发生的具体位置;情报验证则是验证情报标签和位置坐标是否准确。

整个业务处理流程如下图所示: [align=center][图片省略][/align]

处理用户反馈的核心原则是始终以用户的问题为中心。如果用户提供的信息不足以判断问题类型和发生地点,我们会尝试通过用户规划和实际行驶轨迹等日志信息进行推断。

目前存在的主要问题是规则分发准确性低、人工核实流程复杂、效率低且误杀严重。为了改进这些问题,我们计划引入机器学习方法,以数据驱动的方式提高处理能力。

三、机器学习的应用

1. 业务梳理与流程拆解

原有的用户反馈处理流程单一且复杂,对人工技能要求高,效率低。因此,我们决定对业务流程进行拆解和层级化分类,希望利用机器学习和流程自动化手段提高处理效率。

拆解后的流程分为六个层级:业务一级、业务二级、业务三级、情报识别、情报定位和情报验证。其中,前三个层级可以自动处理,后三个层级需要人工干预。

2. 业务与模型适配

用户反馈中的选择项和输入项需要分别处理。选择项通常有默认值,用户可能因为缺乏耐心或不清楚分类标准而无法准确选择。用户描述是反馈中最有价值的部分,它可以分为有效描述和无效描述。

根据业务拆解结果,我们首先对反馈进行有效性筛选,然后根据描述的有效性进行分类。有效描述的反馈会进一步细分为数据、产品和分享三类,其中产品和分享类直接自动化处理,数据类则进一步细分为道路和专题。

3. 模型选择与架构

我们将用户描述转换为向量形式,采用Word2Vec模型表示文本,以便更好地捕捉词语之间的关系。此外,我们选择了深度学习方法,特别是长短期记忆网络(LSTM),因为它能更好地处理上下文信息。

模型架构如下:每个用户反馈情报的词向量结果作为LSTM的输入,LSTM的最后一个单元的结果作为文本特征,与其他用户选择项一起合并作为模型输入,通过全连接层和Softmax层进行分类。

四、实战经验总结

在理清业务逻辑、确定解题步骤、确认样本标注排期并初步训练模型后,我们原以为问题已经解决了一大半。然而,实际情况比预期更加复杂,出现了样本量不足、模型效果不佳等问题。

1. Fine-tuning

我们采用了Fine-tuning方法,即在已训练好的模型基础上进行微调,以提升模型效果。随着人工标注样本的增加,模型在不同数据集上都有了显著提升。

2. 调参

模型调参是一个复杂的过程,我们进行了多次实验,总结了一些宝贵的经验,包括使用SVD初始化、Dropout防止过拟合、选择Adam优化器等。

3. Ensemble

针对单个模型精度不够的问题,我们采用了Ensemble方法,即多个模型投票的方式。实验表明,这种方式提升了整体准确率。

4. 置信度区分

当模型结构优化和调参达到瓶颈时,我们尝试了置信度区分的方法,即设定不同的阈值来区分高置信度和低置信度的反馈。这种方法大大提高了作业员的工作效率。

五、算法效果及应用成果

1. 情报分类

算法效果显示,情报分类算法的产品类准确率达到96%以上,数据类召回率达到99%。与其他策略结合,自动化率大幅提高,作业人员减少,单位作业成本降低了4/5。

2. 情报识别

情报识别算法在高置信度部分实现了自动化,低置信度部分则由人工处理。最终,情报标签分类模型接入平台后,作业人员效率提升了30%以上。

六、总结与展望

通过这个项目,我们形成了一套有效的处理复杂业务问题的方法论,并积累了丰富的实战经验。未来,我们将继续探索更高效、更自动化的解决方案,以提高用户满意度。

作者:高德技术团队

    本文来源:图灵汇
责任编辑: : 朱柯颖
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
高德信息处用户反馈实际机器学习理中的
    下一篇