产品经理视角下的自然言语处理
作者头像
  • 于九野
  • 2020-08-23 15:12:43 4

改写后的内容

引言

自然语言理解,即“人机对话”,属于人工智能领域的一个重要分支。它基于语言学理论,融合了心理学、逻辑学、声学、数学和计算机科学等多个学科的知识。设计和实现自然语言理解的算法和逻辑极其复杂,本文将从产品角度出发,简要介绍“自然语言理解”及其相关知识。

名词解释

1. 语音交互“三驾马车”

  • ASR:自动语音识别,将外部声音转化为文字,类似于人类的耳朵。

  • NLP:自然语言处理,包含自然语言理解和自然语言生成两部分。前者负责理解内容,后者负责生成内容。

  • TTS:语音合成,将文本转化为语音,类似于人类的嘴巴。

2. 自然语言理解

  • 语料:构成训练集和测试集的基本单位,包括句子和短语。通过大量语料的学习,可以帮助模型识别用户的意图。

  • 训练集和测试集:训练集用于训练模型,测试集用于验证模型的学习效果。两者均由语料构成。

  • 置信度:人为设定的标准,超过置信度阈值时模型会尝试理解,低于阈值则不会尝试理解。

3. 模型及算法

  • 机器学习模型:通过算法让机器从大量历史数据中学习规律,从而对新样本进行智能识别或对未来进行预测。

  • 神经网络模型:由大量简单计算单元构成的非线性系统,一定程度上模拟了人脑神经系统的信息处理、存储和检索功能,类似于“由浅入深”的学习过程。

语音交互的应用场景

目前,语音交互主要应用于多个商业领域,包括智能家居、车载场景、医疗场景、教育场景和客服场景等。按照是否有硬件载体,语音交互大致可分为两类:

1. 聊天机器人

这类产品主要用于日常的“人机闲谈”。它们依赖于ASR、NLP和TTS技术,通常通过嵌入式系统与硬件设备对接,如常见的天猫精灵、Siri和车载机器人等。

2. 语音外呼

这类产品主要用于“完成任务”,具有较强的业务属性。通过呼叫中心和电信运营商获取资源,下游触达用户,完成活动营销、欠款通知和服务提供。通常会有固定的业务流程作为客户引导手段。

自然语言理解

自然语言处理被誉为人工智能的明珠,因为“交流”在人类社会的发展中起着至关重要的作用。作为一种重要的交流方式,自然语言随着人类社会的发展变得越来越复杂。例如,母亲与孩子之间的对话往往不需要完整的语法和严格的语言结构,而是包含了各种修辞手法。

然而,机器人很难理解这些日常语言。通过训练,机器人可以逐渐学会理解这些语言,就像儿童成长过程中一样。例如,当母亲第一次说“和你爹一个熊样”时,孩子可能不知道这句话的意思,但随着次数的增加,加上母亲的表情和语气,孩子最终会明白这句话的实际含义。

训练和优化过程

1. 训练模型

训练模型时,需要准备大量的语料。例如,“不想下班”的语料内容都表明了作者不想上班的意思。将其中的80%作为训练集,让模型学习。通过将复杂的非向量化的文本内容归一化为数学模型,使机器能够理解其中的大部分意思。

2. 测试模型

测试模型时,需要使用剩余的20%语料作为测试集。这有助于评估模型的识别率。识别率很大程度上取决于训练集和测试集中的语料内容,因此需要合理分配。

3. 模型结果优化

  • 停用词:指在句子中没有实际意义的词汇,即使去掉也不影响整体理解。这些词可以在预处理阶段被忽略。

  • 添加语料:优质的语料可以提高模型的准确率。理想情况下,应该在训练前准备好完整的语料库。

  • 模型参数调整:包括学习率、正则化方法和初始化权重等参数的调整。不同的模型类型需要不同的优化方法。

4. 其他手段

  • 完全匹配:为了避免某些特定场景下的识别问题,可以添加完全匹配规则,确保完全相同的语料能得到正确的识别。

  • 正则表达式:正则表达式可以用来匹配具有特定格式的句子,如“.不想下班.”可以匹配多种类似的句子。

  • 未识别的处理:即使采用了完全匹配和正则表达式,也无法保证100%的识别准确率。因此,设置置信度阈值,当模型无法识别时,可以使用预先设定的话术进行回应。

最后,语音交互已经深入到我们生活的各个方面,尽管目前仍存在一些问题,但这些问题正在逐步解决。希望本文能对大家理解自然语言处理有所帮助。

    本文来源:图灵汇
责任编辑: : 于九野
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
视角言语自然经理处理产品
    下一篇