近日,百度研究院在其博客上发布了一篇关于自然语言处理的新论文,介绍了通过交互来促进自然语言学习的一些新观点。让我们一起来看看这篇论文的主要内容。
本文提出了一种基于交互的自然语言学习方法,其中,学习者通过与人类互动,并从反馈中学习自然语言,从而在对话过程中不断提升语言技能。
不同于传统的监督学习环境,本文中并没有对模型(即学习者)进行直接的有标签监督学习训练。相反,学习者需要具备基本的语言能力,才能通过人类提供的自然语言(如“是”或“否”)和非语言反馈(如点头或微笑)来不断改进。
通过对话交流,人工智能系统能够主动提问以获取信息,并在后续对话中应用所学知识。下图展示了训练过程中几种不同的对话示例。
在多次互动后,学习者能够生成具有意义的句子,并逐步提升对话技能。最终,学习者能够用自然语言准确回答问题。
此外,模型的泛化能力进一步验证了其语言学习效果。这意味着,在之前未出现过的概念面前,模型可以通过已知的概念或观点的组合来作出回答。
例如,在训练阶段,模型并未接受过关于“鳄梨”和“东”组合的问题训练。然而,在测试过程中,当被问及“鳄梨”的位置时,模型能够回答出“正东”方向的水果是“鳄梨”。同样地,当询问“鳄梨”的颜色时,模型也能回答出“橙色”。
该研究旨在增加语言学习环境的复杂性,以培养更为复杂的语言行为。同时,它还探索了知识建模和快速学习方法,使模型能够更好地与人类互动,并在实际生活中有效学习。
在大数据文摘微信公众号后台回复“交互”可下载本论文。
相关报道: