11月14日至15日，由中国人工智能学会和嘉兴市人民政府主办，嘉兴市南湖区人民政府、嘉兴科技城管理委员会和浙江将来技术研讨院（嘉兴）共同承办的2020第十届中国智能产业高峰论坛（CIIS 2020）在嘉兴南湖顺利举行。11月15日，在自然语言理解专题论坛上，西湖大学特聘研究员张岳发表了题为《自然语言处理的瓶颈思考与探索》的精彩演讲。

张岳介绍了他们近期的研究成果。他将演讲内容分为两部分：首先回顾了自然语言处理的进步；其次探讨了当前遇到的一些瓶颈问题。

在自然语言处理方面，无论是学术界还是工业界，对话系统都能帮助人们进行情感交流和完成简单的任务；机器翻译可以将整本书翻译成多种语言；自动文摘的效果也非常显著。这些进步主要得益于大规模预训练的语言模型，这些模型通过预测互联网上的文本来进行预训练。通过这种方式，模型可以学习到词汇、语法、语义甚至一些常识知识，从而更好地完成任务。

然而，在实际应用中，自然语言处理仍存在不少挑战。例如，客服对话中机器人可能会误解客户的意图，机器翻译等文本生成系统也常出现细节上的错误。为了探究这些问题，张岳和他的团队进行了多项研究，旨在发现模型在处理常识、对话理解和逻辑推理等方面的不足。

研究中，他们设计了一系列测试，包括判断题、选择题和生成题，以评估模型的常识理解能力、对话中的社会常识推理能力和逻辑推理能力。结果显示，未经微调的预训练模型在常识判断题上能达到70%的准确率，在选择题上则只有40%左右。通过大量训练，模型的准确率虽有所提升，但生成真实原因的能力仍然较弱。

接着，他们考察了对话过程中的社会常识和基本推理能力。通过与微软亚洲研究院合作，他们构建了一个数据集，用于测试对话中的隐含信息。实验表明，现有的对话模型在处理这类问题时与人类相比仍有较大差距，尤其是在数学计算和环境推理等方面。

最后，他们评估了各种逻辑推理模型的表现。结果显示，尽管有些模型在特定类型的推理题上有所进步，但在抽象推理和数学计算方面依然表现不佳。这表明当前的预训练模型在处理复杂的逻辑推理和抽象概念时仍存在困难。

总的来说，张岳认为大规模预训练的语言模型确实提升了自然语言处理的能力，但许多细微之处仍存在问题。未来的研究需要进一步结合知识和符号主义算法，以弥补现有模型的不足。