2020年11月6日，“第五届言语与智能高峰论坛”在线上成功举办。此次论坛由中国中文信息学会与中国计算机学会联合主办，邀请了周明、黄萱菁等多位国内外知名学者发表演讲。

自2016年起，“言语与智能高峰论坛”每年在北京举行，迄今已成功举办了五届。社会对代表未来、高科技和前沿领域的“人工智能”抱有很高的期待，特别是在“让机器理解人类语言”这一领域，人们对当前的研究进展和未来趋势充满好奇。

论坛的主要目标是向公众介绍语言与智能领域的最新动态和创新成果，推动相关领域快速发展。论坛邀请了国内外资深学者作为特邀嘉宾，并设立了青年科学家论坛、圆桌讨论和技术评估论坛，共同探讨语言与智能领域的前沿话题。

复旦大学的黄萱菁教授围绕深度学习在实际应用中的可解释性问题进行了深入阐述。以下是根据演讲内容整理的文章，稍有删减：

自然语言处理中的可解释性

自然语言处理中的可解释性主要指对学习系统内部机制的理解，主要包括以下三个方面：一是理解模型各部分的功能；二是解释其行为；三是诊断模型的优缺点。

为什么需要进行可解释性分析？

黄萱菁教授指出，虽然深度学习使我们进入了结构工程时代，但也带来了一些新的挑战，如如何选择适合特定任务的数据结构。可解释性分析能够增强模型的信任度，判断模型是否过拟合，并发现模型的不足之处，从而不断优化。

这两张图表展示了近年来有关可解释性研究的论文发表趋势。横轴表示年份，纵轴表示每年被接收的论文数量。可以看出，近两年的研究兴趣显著增加，表明可解释性分析依然是研究热点。

黄萱菁教授的研究工作

黄萱菁教授分享了她的最新研究成果，主要包括两大部分：一是理解模型各部分的功能，二是对模型进行诊断。在理解模型各部分功能方面，她介绍了以下三个方面的研究：

1. LSTM架构的认知解释：研究了人在阅读和机器阅读时神经元活动的相互关系，以及LSTM架构在认知层面的合理性。
2. 序列模型的理解：探讨了基于神经网络的词表示所编码的语言学特征，以及神经元行为的可解释性。
3. 抽取式摘要的组件分析：研究了不同配置模型之间的差异。

此外，黄教授还介绍了她的团队在鲁棒性分析方面的工作，包括对抗性分析、依存句法任务的攻击功能和基于情感分析的方法。

研究展望

黄萱菁教授对未来的研究方向进行了展望，期望能够建立统一的目标和数据集，以便更好地评估可解释性模型，并开发出通用的交互式工具，实现系统化的平台分析。

她还强调，可解释性分析的目的在于改进现有系统，帮助人们更好地理解系统的输入，因此希望能在更多应用场景中利用这些研究成果。

黄萱菁教授简介

黄萱菁，复旦大学计算机科学技术学院教授、博士生导师，主要从事自然语言处理、信息检索和社会媒体分析的研究。她担任中国中文信息学会常务理事、社会媒体专委会副主任，中国计算机学会自然语言处理专委会副主任等职务，在高水平国际学术期刊和会议上发表了大量论文。她主持的多个科研项目得到了国家自然科学基金、科技部、教育部和上海市科委的支持。黄教授曾入选清华—中国工程院知识智能联合研究中心和清华大学人工智能研究院联合发布的“2020年度人工智能全球女性”、“2020年度AI 2000人工智能全球最具影响力提名学者”及“福布斯中国2020科技女性榜”。

参考资料

• http://conference.cipsc.org.cn/lis2020/reports/huangxuanjing.html