作为国内领先的出行大数据公司,高德地图拥有大量的用户和合作伙伴,这使得高德能够收集到海量的出行数据。与此同时,用户也在不断地为我们提供宝贵的反馈信息,这些信息对于改善产品和服务至关重要。
本文将主要介绍如何利用机器学习的方法来处理用户反馈,提高数据处理效率,尽可能实现自动化处理。
用户可以通过手机的Amap端或PC端等方式提交反馈。这些反馈通常包含一些选择项(如成绩来源、大类型、子类型和道路名称)和用户描述,用户描述通常是简短的文本。
高德每天收到的用户反馈量巨大,要实现即时反馈是一项挑战。当前的处理流程主要包括规则分类、人工核实和道路数据更新等步骤。具体来说,处理一个反馈需要经过情报识别、情报定位和情报验证等环节。
情报识别主要是判断反馈类型,即为情报打标签,包括分析用户提供的信息和检查上传的图片材料;情报定位主要是确定反馈发生的具体位置;情报验证则是验证情报标签和位置坐标是否准确。
整个业务处理流程如下图所示: [align=center][图片省略][/align]
处理用户反馈的核心原则是始终以用户的问题为中心。如果用户提供的信息不足以判断问题类型和发生地点,我们会尝试通过用户规划和实际行驶轨迹等日志信息进行推断。
目前存在的主要问题是规则分发准确性低、人工核实流程复杂、效率低且误杀严重。为了改进这些问题,我们计划引入机器学习方法,以数据驱动的方式提高处理能力。
原有的用户反馈处理流程单一且复杂,对人工技能要求高,效率低。因此,我们决定对业务流程进行拆解和层级化分类,希望利用机器学习和流程自动化手段提高处理效率。
拆解后的流程分为六个层级:业务一级、业务二级、业务三级、情报识别、情报定位和情报验证。其中,前三个层级可以自动处理,后三个层级需要人工干预。
用户反馈中的选择项和输入项需要分别处理。选择项通常有默认值,用户可能因为缺乏耐心或不清楚分类标准而无法准确选择。用户描述是反馈中最有价值的部分,它可以分为有效描述和无效描述。
根据业务拆解结果,我们首先对反馈进行有效性筛选,然后根据描述的有效性进行分类。有效描述的反馈会进一步细分为数据、产品和分享三类,其中产品和分享类直接自动化处理,数据类则进一步细分为道路和专题。
我们将用户描述转换为向量形式,采用Word2Vec模型表示文本,以便更好地捕捉词语之间的关系。此外,我们选择了深度学习方法,特别是长短期记忆网络(LSTM),因为它能更好地处理上下文信息。
模型架构如下:每个用户反馈情报的词向量结果作为LSTM的输入,LSTM的最后一个单元的结果作为文本特征,与其他用户选择项一起合并作为模型输入,通过全连接层和Softmax层进行分类。
在理清业务逻辑、确定解题步骤、确认样本标注排期并初步训练模型后,我们原以为问题已经解决了一大半。然而,实际情况比预期更加复杂,出现了样本量不足、模型效果不佳等问题。
我们采用了Fine-tuning方法,即在已训练好的模型基础上进行微调,以提升模型效果。随着人工标注样本的增加,模型在不同数据集上都有了显著提升。
模型调参是一个复杂的过程,我们进行了多次实验,总结了一些宝贵的经验,包括使用SVD初始化、Dropout防止过拟合、选择Adam优化器等。
针对单个模型精度不够的问题,我们采用了Ensemble方法,即多个模型投票的方式。实验表明,这种方式提升了整体准确率。
当模型结构优化和调参达到瓶颈时,我们尝试了置信度区分的方法,即设定不同的阈值来区分高置信度和低置信度的反馈。这种方法大大提高了作业员的工作效率。
算法效果显示,情报分类算法的产品类准确率达到96%以上,数据类召回率达到99%。与其他策略结合,自动化率大幅提高,作业人员减少,单位作业成本降低了4/5。
情报识别算法在高置信度部分实现了自动化,低置信度部分则由人工处理。最终,情报标签分类模型接入平台后,作业人员效率提升了30%以上。
通过这个项目,我们形成了一套有效的处理复杂业务问题的方法论,并积累了丰富的实战经验。未来,我们将继续探索更高效、更自动化的解决方案,以提高用户满意度。
作者:高德技术团队