图灵汇官网

自然语言处理的十个发展趋势

本文由中国人工智能大会（CCAI）投稿，并由数据分析网编辑发布，作者为哈尔滨工业大学教授刘挺。

发展趋势一：语义表示——从符号表示到分布表示

长期以来，自然语言处理主要依赖词汇和符号来表达概念。然而，这种表示方法存在局限性，例如两个词虽然词性相近但形态不同，计算机可能会将其视为两个不同的词。以“荷兰”和“苏格兰”为例，如果我们采用连续、低维、稠密向量的方式在语义空间中表示词汇及其组合，就可以计算不同层次的语言单元之间的相似度。这种方法还可以直接应用于神经网络，成为该领域的重要变革。

随着研究的深入，人们逐渐意识到不再需要将自然语言处理分成多个层次。例如，句法分析虽然曾被视为必不可少的一部分，但在实际应用中，通过深度学习，我们发现直接进行信息抽取也是可行的，这表明句法分析并非必需。在数据量充足的情况下，直接进行信息抽取可以达到相似的效果。

发展趋势二：学习形式——从浅层学习到深度学习

过去，自然语言处理通常采用分步骤的学习方法，每一步都使用深度学习技术。而现在，直接的深度学习方法已经出现，实现端到端的处理。虽然这种方法减少了人为知识的贡献，但仍需调整深度学习网络结构以优化性能。

例如，2019年4月，谷歌团队发布了Translatotron，这是第一个能够直接从一种语言转换到另一种语言的端到端模型，同时还能保留原始说话者的声线。这项研究有望成为未来端到端语音翻译系统的基础。

发展趋势三：NLP平台化——从封闭走向开放

过去，研究人员往往不愿意分享自己的研究成果，但现在这些资料已经全面开放。无论是学校还是大型企业，都在提供更多的平台支持。NLP领域的开放平台越来越多，门槛也越来越低。

语音和语言之间存在显著差异，自然语言处理比语音识别和合成等任务更加复杂。例如，自然语言处理不仅需要解决词汇和语法问题，还需要处理更为复杂的上下文关系。因此，自然语言处理与其他领域相结合，使其变得更加复杂。

例如，2019年7月，腾讯开放了自然语言处理云平台，整合了包括AI Lab、信息安全团队、AI平台部、翻译君和知文团队在内的顶级NLP技术，涵盖了从词法、句法到篇章等各个层面的能力。

发展趋势四：语言知识——从人工构建到自动构建

AlphaGo的成功表明，人工智能可以通过自我学习和训练来实现超越人类的表现。同样，在自然语言处理领域，虽然仍需要大量显性知识，但知识的构建方式正在发生变化，更多地采用自动方法来发现词汇之间的关系。

例如，2018年11月，谷歌开源了其最强的NLP模型BERT。该模型在多项NLP测试中取得了优异成绩，甚至超过了人类表现。在训练过程中，BERT采用了自动构建的方法。

发展趋势五：对话机器人——从通用到场景化

近年来，对话机器人的研究和应用越来越受到重视。早期的对话机器人如Siri，由于理解能力不足，很快失去了市场。后来，对话机器人转向聊天功能，尽管提高了用户体验，但实用性依然不足。

现在，更多的做法是将对话机器人与具体场景结合，降低难度，提高实用性。例如，阿里小蜜作为一个在电商场景下使用的对话机器人，已经取得了显著成效。

例如，2019年，《麻省理工科技评论》发布的“全球十大突破性技术”预测榜单中，阿里小蜜作为用户数量领先的智能客服机器人入选。阿里小蜜集合了淘宝、天猫、支付宝等平台的日常使用规范、交易规则、平台公告等信息，是一个在电商服务场景下的对话机器人。

发展趋势六：文本理解和推理——从浅层分析向深度理解迈进

近年来，自然语言处理的研究重点之一是文本理解和推理。通过阅读理解来深入探究自然语言处理是一个重要方向。例如，给计算机一篇文档，让其理解并回答问题，这是一项极具挑战性的任务。

例如，2018年12月，阿里AI在MS MARCO挑战赛中，通过阅读理解测试创造了人工智能的新纪录。该比赛包含100多万个问题和300多万篇文档，参赛机构的人工智能模型需要阅读完维基百科中的所有文章。测试结果显示，阿里AI模型在英文阅读理解比赛中得分排名第一，接近人类水平。

发展趋势七：文本情感分析——从现实文本到情感文本

过去，人们主要关注新闻领域的事实性文本，而现在，情感分析逐渐受到更多关注。这一趋势在商业和政府舆情中也有广泛应用。

例如，2018年8月，百度通过GitHub开放了情感分类开源项目Senta。该项目包含了基于语义的情感分类模型，还提供了基于大数据训练好的模型。

发展趋势八：社交媒体处理——从传统媒体到社交媒体

随着社交媒体的发展，自然语言处理的应用范围也在不断扩大。人们不仅关注社交媒体上的情感影响，还利用社交媒体进行电影票房预测、股票预测等。

但从长远来看，社会科学与计算机科学的结合将是历史性的。例如，在文学、历史学等领域，许多学者已经开始利用大数据技术进行研究，这将进一步推动自然语言处理的发展。

例如，2019年8月，第七届社交媒体的自然语言处理国际研讨会在澳门举行。会议主要关注以下五个主题：社交媒体的内容分析、Web 2.0上的自然语言处理、社交媒体的情感与观点分析、利用社交媒体进行灾害管理、以及社交媒体的模型和工具开发。

发展趋势九：文本生成——从标准文本到自由文本

近年来，文本生成技术得到了快速发展，从生成古诗词到新闻报道，再到写作，其应用前景广阔。这一趋势是从生成标准文本向生成自由文本转变。例如，我们可以从数据库中生成规范化的体育报道模板，然后进一步向自由文本过渡，如写作文。

例如，2018年11月，新华社在第五届世界互联网大会上发布了全球首个合成新闻主播——“AI合成主播”。这项技术不仅实现了技术创新和突破，还在新闻领域开创了实时音视频与AI真人形象合成的先河。

发展趋势十：NLP+行业——与各领域深度融合，创造价值

最后，自然语言处理与各行业的深度融合将成为趋势。尤其是在信息准备充分、服务方式本身就是知识和信息的领域，NLP将发挥重要作用。例如，在司法领域，NLP可以有效利用信息，提高服务效率。

NLP将在医疗、金融、教育和司法等领域发挥重要作用。这些领域对NLP的需求很大，未来将有更多的应用场景出现。

本文由中国人工智能大会（CCAI）投稿至数据分析网（数据分析网）并经编辑发布。