刘知远:多项NLP算法架起"机器"和"自然言语"间桥梁 | 榜单人物

图灵汇官网

2019年1月21日,《麻省理工科技评论》发布了2018年的“35岁以下创新35人”(Innovators Under 35 China)中国区榜单。该榜单展示了中国在科研创新领域的进步,尤其是跨学科研究和对实际应用的关注。这份榜单涵盖了人工智能、自然语言处理(NLP)、脑科学、新材料、新能源、生命科学、生物技术和自动驾驶等多个领域。未来,我们将陆续发布对这35位获奖者的专访,介绍他们的科技成果和经验,以及他们对未来科技发展的看法。

关于Innovators Under 35 China榜单

自1999年起,《麻省理工科技评论》每年都会评选出“35岁以下创新35人”榜单,旨在选出在全球范围内被认为最具创新精神和影响力的35位年轻技术创新者或企业家。这些获奖者分为发明家、创业者、远见者、人文关怀者和先锋者五大类别。2017年,该榜单首次设立了中国区评选,专门针对中国籍的青年科技创新者。目前,新一届的评选正在征集提名,报名截止日期为2019年5月31日。

自计算机诞生以来,人类一直梦想赋予机器理解自然语言的能力。近年来,深度学习的发展为这一领域注入了新的活力。深度学习是一种数据驱动的方法,通过大规模序列数据的学习来解决特定任务,如机器翻译和文本分类。然而,实现真正的自然语言理解仍有很长的路要走。其中的挑战在于,仅仅依靠文本信息训练计算机是不够的,还需要大量外部知识的支持。这正是刘知远所做的工作,即如何将数据驱动的深度学习与丰富的外部知识结合起来,实现对自然语言的深度理解。

刘知远毕业于清华大学计算机科学与技术系,之后在本校跟随孙茂松教授攻读博士学位。他的研究主要集中在自然语言处理中的语义表示学习,包括基于关键词的显式表示、基于低维向量的隐式表示以及基于结构知识图谱的知识表示。他提出了一系列模型,形成了统一的语义表示学习框架。例如,在显式表示学习方面,他提出了一系列面向汉字、词义、实体和网络的表示学习模型;在知识表示学习方面,他提出了考虑知识图谱丰富信息的表示学习技术。这些算法已成为相关领域的代表性方法。

知识图谱是一种强大的工具,用于构建知识库。它由大量的三元组(头实体、关系、尾实体)组成,描述现实世界中的实体及其关系。在计算机中如何表示和存储知识图谱,是知识图谱构建与应用的重要课题之一,其中一种关键技术是表示学习,也称为表征学习,即利用机器学习技术自动获取每个实体或关系的向量化表示。

近年来,一些知识图谱表示学习模型如TransE通过将关系视为从头实体到尾实体的翻译来建立实体和关系的嵌入。刘知远团队注意到,这些模型仅仅简单地假设实体和关系处于相同的语义空间。实际上,一个实体是由多种属性组成的,不同关系关注实体的不同属性,仅在同一个空间下建模是不够的。因此,刘知远团队提出了TransR,分别在实体空间和关系空间中构建实体和关系的嵌入。在学习嵌入阶段,首先将实体投影到相应的关系空间中,然后建立从头实体到尾实体的翻译关系。实验结果显示,TransR在链接预测、元组分类和关系事实抽取等任务中的表现优于之前的模型。

尽管深度学习方法在快速发展,刘知远并未盲目追随热点,而是深入思考深度学习缺乏可解释性等问题,探索知识指导的自然语言处理框架。在很多任务中,引入外部知识能够显著提升性能。

除了学术研究上的贡献,刘知远同样重视理论研究的实际应用。他基于博士研究成果开发的微博关键词抽取工具曾拥有超过500万注册用户和3000多万次使用记录。他还致力于开发了60多个自然语言处理工具包,包括THULAC(中文词法分析工具包)、THUCTC(中文文本分类工具包)、OpenKE(知识表示学习工具包)、THUNRE(知识获取工具包)、OpenNE(网络表示学习工具包)和THUTag(关键词抽取工具包)。这些工具包已被数百家国内外研究机构和公司采用,并在GitHub上获得了超过1万颗星的关注,极大地推动了自然语言处理的研究和应用。

或许受到作为教师的爷爷的影响,刘知远很早就立志成为一名教师。谈到学术研究和人才培养,他认为:“高水平的研究实际上是培养人才的一种途径。如果你想培养高水平的人才,就必须通过做高水平的研究来实现。因此,我认为这两者是相辅相成的。”因此,他更倾向于做一些基础性的研究,以便学生的潜能能够得到充分发挥。“高校最重要的任务还是培养人才,它肩负着为社会培养高水平科技人才的责任。”

尽管近几年深度学习方法取得了巨大进展,刘知远认为无论是国内还是国外,从事自然语言处理的学者仍然较少。他指出,扎实的基础教育和广阔的市场需求为中国在这个领域的发展提供了巨大的潜力,但也需要更多原创性的想法和研究。刘知远希望:“我最大的快乐就是能够帮助那些有潜力的年轻人建立学术和职业兴趣。自然语言处理是人工智能的关键领域,人类的语言充满了未知,希望更多的年轻人加入进来,一起探索前进。”

本文来源: 图灵汇 文章作者: 李金林