在我们的日常生活中,许多常见的场景都离不开一种广泛使用的数据存储方式——表格。假如让这种数据存储方式变得更加智能化,将会带来哪些可能性呢?在这篇文章中,我们将介绍微软亚洲研究院自然语言计算组在基于表格的自然语言理解和生成方面的一系列研究。
表格是一种广泛应用的数据存储方式,主要用于存储和展示结构化数据。由于表格具有清晰的结构、易于维护和实时性强等特点,它们经常被搜索引擎和智能对话系统用作重要答案来源。例如,现代搜索引擎(如必应)可以直接利用网页上的表格生成问题的答案;而虚拟语音助手(如微软的Cortana、亚马逊的Alexa等)结合表格和自然语言理解技术来回答用户的语音请求,比如查询天气、安排日程等。
接下来,我们将介绍我们团队在基于表格的自然语言理解和生成方面的几项关键工作,包括检索、语义解析、问题生成、对话和文本生成等方面。
对于给定的自然语言问题和一组表格集合,检索任务的目标是从这些表格中找到与问题最相关的表格。这需要衡量自然语言问题和表格之间的语义相关度。为了实现这一目标,我们提出了一种基于神经网络的检索模型,该模型能够在语义向量空间中分别计算问题和表头、问题和列名、问题和表格单元之间的匹配程度。
语义解析的任务是将自然语言问题转换成机器可以理解和执行的语义表示(如SQL语句)。目前,生成这类语义表示的常用方法是基于序列到序列(seq2seq)架构的神经网络模型。为了更好地融入SQL语法信息,我们在解码器端加入了门控机制和三个通道,分别用于预测列名、表格单元格内容和SQL关键词。这种方法在WikiSQL数据集上取得了显著的效果。
问题生成的目标是自动地从表格数据中生成自然语言问题。这可以缓解语义解析对大量标注数据的依赖。我们提出了一种基于问题生成的语义解析训练框架,通过生成大量的高质量问题来增强训练数据。这种方法在小规模有指导数据的情况下达到了与传统方法相同甚至更好的效果。
在对话场景中,用户可能会在前一个问题的基础上继续提问,通常会使用指代或省略来简化对话。我们提出了一种基于Sequence-to-Action的方法,能够有效地处理这种多轮对话场景。通过定义一系列动作,模型可以更好地捕捉对话中的上下文信息。
很多场景需要将表格中的内容转化为自然语言描述。我们基于表格的文本生成工作旨在用自然语言描述表格中的内容。我们的模型采用了基于Sequence-to-Sequence的框架,并设计了特殊的机制来处理表格的结构特性。
总的来说,我们介绍了在基于表格的自然语言理解和生成方面的五项关键工作。虽然目前相关研究还处于起步阶段,但随着新方法和模型的不断探索,这一领域有望取得更大的进展。
作者简介
唐都钰,微软亚洲研究院自然语言计算组的研究员,主要研究领域包括智能问答、语义理解、常识推理等。
孙一博,微软亚洲研究院自然语言计算组的实习生,现就读于哈尔滨工业大学,研究兴趣包括问答系统、语义分析和深度学习等。
感谢您对“微软研究院AI头条”的关注。我们期待您的留言和投稿,共建交流平台。来稿请寄:msraai@microsoft.com。