图灵汇官网

近日，谷歌宣布开放两个新的自然语言对话数据集，分别是Coached Conversational Preference Elicitation（CCPE）和Taskmaster-1。这两个数据集旨在提供更贴近人类对话的标注数据，为自然语言处理领域的研究者提供更加贴近现实生活的数据资源。

当前，智能助理已经能够处理多种任务，并能提供个性化的结果，如电影推荐、餐厅预订和旅行规划等。然而，尽管我们在这一领域取得了显著进展，智能助理仍然无法达到人类的理解水平。

造成这种情况的部分原因是智能助理缺乏高质量的训练数据。这些数据能够准确反映人们与智能助理沟通时的需求和偏好方式。由于智能助理的能力有限，我们往往需要调整自己的表达方式，以适应智能助理所能理解的内容。换句话说，现有的智能助理对话理解能力远未达到人类对话所需的复杂度。

为了解决这个问题，谷歌发布了CCPE和Taskmaster-1两个对话数据集。这两个数据集采用了Wizard-of-Oz平台，该平台将两个进行口语对话的人匹配在一起，就像拥有真正高效的智能助理一样。

在CCPE数据集中，研究人员通过定量分析了解人们如何描述电影偏好。CCPE-M数据集包含超过500个电影偏好对话，涵盖了10,000多个偏好。该数据集由502个对话组成，其中包含12,000个带注释的发音。这些对话由两名付费工作者进行，一名扮演“助手”，另一名扮演“用户”。通过这种方式，数据集能够捕捉到用户如何向“完美”的智能助理表达真实需求，从而帮助改进此类系统。

在Taskmaster-1数据集中，已有13215个基于任务的对话记录，其中包括7708个书面对话和5507个口语对话。这些对话覆盖了六个生活领域，如订购披萨、预约汽车维修、租车、购买电影票、订购咖啡饮料和预订餐厅。

为了创建这些数据集，采用了两种方法。第一种方法是Wizard-of-Oz方法，其中训练过的智能体与人互动以完成任务；第二种方法是“自我对话”方法，由单人编写以增加语料库的大小和说话者的多样性。这种方法使得数据集更加真实和多样化，同时也更具成本效益。

此外，这些数据集还提供了一些基线模型，包括最先进的神经机器翻译架构以及定性的人体评估。对话被标记了API调用和参数，这是一种简单且经济有效的方法，可以避免复杂的注释形式。这种抽象层使得特定模型可以与提供相似功能的多个服务进行交互。

我们希望这些数据集能为研究者在对话系统和推荐系统方面的实验和分析提供有价值的参考。