百度最新论文:基于交互的自然言语学习

图灵汇官网

百度研究院提出新型自然语言学习方法

小鱼

近日,百度研究院在其博客上发布了一篇关于自然语言处理的新论文,介绍了通过交互来促进自然语言学习的一些新观点。让我们一起来看看这篇论文的主要内容。

本文提出了一种基于交互的自然语言学习方法,其中,学习者通过与人类互动,并从反馈中学习自然语言,从而在对话过程中不断提升语言技能。

不同于传统的监督学习环境,本文中并没有对模型(即学习者)进行直接的有标签监督学习训练。相反,学习者需要具备基本的语言能力,才能通过人类提供的自然语言(如“是”或“否”)和非语言反馈(如点头或微笑)来不断改进。

通过对话交流,人工智能系统能够主动提问以获取信息,并在后续对话中应用所学知识。下图展示了训练过程中几种不同的对话示例。

在多次互动后,学习者能够生成具有意义的句子,并逐步提升对话技能。最终,学习者能够用自然语言准确回答问题。

此外,模型的泛化能力进一步验证了其语言学习效果。这意味着,在之前未出现过的概念面前,模型可以通过已知的概念或观点的组合来作出回答。

例如,在训练阶段,模型并未接受过关于“鳄梨”和“东”组合的问题训练。然而,在测试过程中,当被问及“鳄梨”的位置时,模型能够回答出“正东”方向的水果是“鳄梨”。同样地,当询问“鳄梨”的颜色时,模型也能回答出“橙色”。

该研究旨在增加语言学习环境的复杂性,以培养更为复杂的语言行为。同时,它还探索了知识建模和快速学习方法,使模型能够更好地与人类互动,并在实际生活中有效学习。

在大数据文摘微信公众号后台回复“交互”可下载本论文。

相关报道:

  • http://research.baidu.com/Blog/index-view?id=96
  • https://arxiv.org/pdf/1705.0996.pdf
本文来源: 图灵汇 文章作者: 陈巧说