让智能体合作,谷歌团队提出自然言语的产生方法 | ICLR 2017

图灵汇官网

ICLR 2017会议于4月24日至26日在法国土伦举行,雷锋网的编辑们也前往现场带来最新报道。此次会议期间,雷锋网将围绕会议议程及论文发布一系列专题报道,敬请期待。

目前,大多数训练自然语言系统的做法是让系统接触大量的文本资料。然而,这种方法对于发展互动式的机器,尤其是能够进行对话的智能体来说,存在不少挑战。在ICLR 2017会议上,Angeliki Lazaridou等研究人员提出了一种基于多个智能体的语言学习架构,他们在参考游戏环境中研究了这种学习方法。

在这些游戏中,一个发送者和一个接收者共同观察一组图像。发送者知道其中一个图像是目标,并需从固定词汇表中选择一个信息传递给接收者。接收者则根据这条信息来识别目标图像。通过这种方式,智能体需要发展出自己的交流语言。研究人员还展示了通过简单的结构设计,两个网络便能学会在游戏中协作。此外,他们还探讨了如何改变游戏环境,以便更好地表达图像的语义属性。同时,他们还展示了一种简单的方法,将智能体代码转化为自然语言,这对于开发能够与人类有效沟通的机器至关重要。

本次会议介绍了一种基于多智能体协作和交流的游戏研究方法。这些游戏将智能体置于简单环境中,使其在互动中发展出一种自然语言。初始状态下,智能体没有任何知识背景,但通过合作,它们逐渐学会了交流。

研究团队从最基础的挑战开始,即在双智能体游戏背景下引用事物。他们关注两个问题:智能体是否能够成功交流?何种环境因素促使智能体形成类似人类的语言代码?为此,他们评估了智能体是否能够将一般概念与它们学会使用的符号关联起来,以及智能体的“词汇”是否能被人类部分理解。他们还探索了如何调整游戏环境,以提高语言的可读性。

研究采用的参考游戏框架包括K名玩家,他们必须完成特定任务并通过交流来实现。游戏包括一组图像,从中随机抽取两张,其中一张为目标。两个玩家,发送者和接收者,都能看到这两张图像,但只有发送者知道哪张是目标。游戏设有10或100个词汇,发送者选择一个符号发送给接收者,接收者根据这些符号来猜测目标图像。如果接收者猜对,双方都会获得奖励。

智能体玩家包括发送者和接收者,它们都是简单的前馈网络。发送者架构有两种,一种是不可知发送者,它将原始图像映射到嵌入空间,再通过非线性转换生成符号得分;另一种是知情发送者,它将图像嵌入到通用空间,并利用卷积操作来生成符号得分。

实验结果显示,随着训练的进行,智能体逐渐掌握了有效的交流方式。知情发送者的表现优于不可知发送者。通过观察符号与图像之间的关系,研究者发现智能体能够将高级语义概念应用于交流。通过调整游戏环境,如去除某些细节,智能体仍能继续协作,但使用的符号变得更加抽象。

研究者还发现,通过监督学习任务,智能体能够进一步提升交流的有效性。通过结合监督学习和游戏互动,智能体不仅能学习到更复杂的语义概念,还能让人类更容易理解其交流内容。例如,发送者学会使用传统标签来描述图像,这使得交流更加直观。

这项研究证明,简单的神经网络智能体能够学会在游戏中有效沟通。通过结合游戏和监督学习,智能体不仅能捕捉图像中的高级概念,还能用自然语言进行交流。未来的研究将继续探索如何使智能体的交流方式更接近人类语言,包括学习语言的结构特性以及如何进行对话。

ICLR委员会对这篇论文给予了肯定,认为这是一种新颖且有趣的研究方法。尽管实验相对简单,但其结果展示了多智能体协作学习交流的潜力。最终,这篇论文被接受为口头报告。

本文来源: 图灵汇 文章作者: 中国音乐财经网