清华刘知远：知识指导的自然语言处理

THU数据派

来源：专知

自然语言处理是实现人工智能、通过图灵测试的关键。虽然目前深度学习在自然语言处 理上取得了巨大的突破，对自然语言的深度理解仍需要复杂知识的支持，来实现从理解字面意思到言外之意的跃迁。 本文介绍清华大学刘知远老师的 《知识指导的自然语言处理》 。

深度学习在自然语言处理取得了巨大图谱，它能够高效学习多粒度语言单元间复杂语义关联。但是仅仅依靠深度学习并不能完成对自然语言的深度理解。对自然语言的深度理解需要从字面意义到言外之意的跃迁，这需要引入复杂知识的支持。

HowNet等知识库通过人工标注的方式积累了大量的知识，通过深度学习+知识图谱这种双向驱动的自然语言处理技术和体系，可以充分发挥深度学习和知识库的作用，更深层次地理解自然语言。

《知识指导的自然语言处理》 主要内容如下：

• 自然语言处理与AI

• 数据驱动的自然语言处理：深度学习

• 自然语言的特点与技术挑战

• 表示学习

• 深度学习+知识图谱 双向驱动的自然语言处理技术体系

• 语言知识库

• HowNet

• 深度学习与HowNet

• 融合义原知识的词义表示学习

• 融合义原知识的神经语言模型

• 基于语义表示学习的义原推荐

• 义原只是计算相关论文

• 世界知识库

• 知识表示学习

• 世界知识的分布式表示学习

• 知识指导的实体细粒度分类

• 知识知道的神经网络文档排序

• 知识指导的预训练语言模型

• 世界知识指导自然语言处理相关论文

• 知识获取

• 神经网络知识获取技术

• 高效鲁棒的知识获取技术

• 开源工具

刘知远主页：

http://nlp.csai.tsinghua.edu.cn/~lzy/

完整版PPT下载链接（清华内网）：

http://nlp.csai.tsinghua.edu.cn/~lzy/talks/2019_knowledge_guided_nlp_cn.pdf

PPT预览：