资源:自然语言处理数据集、语料库和论文集合
IT桔子
2018-12-01 18:20:59
图灵汇官网
问答系统
MS MARCO
MS MARCO 是一个由微软发布的、包含人工生成的机器阅读理解数据集,发布于2016年。该数据集包含大量问题及其对应的答案,可用于评估和训练机器阅读理解模型。
- 论文链接:https://arxiv.org/abs/1611.09268
- 数据集链接:http://www.msmarco.org/
NewsQA
NewsQA 是 Maluuba 发布的一个机器理解数据集,发布于2016年。该数据集包含新闻文章中的问题及其答案,可用于训练和测试机器阅读理解系统。
- 论文链接:https://arxiv.org/abs/1611.09830
- 数据集链接:https://github.com/Maluuba/newsqa
SQuAD
SQuAD 是斯坦福大学发布的一个包含超过100,000个问题及其对应答案的数据集,发布于2016年。该数据集主要用于评估机器阅读理解系统的性能。
- 论文链接:https://arxiv.org/abs/1606.05250
- 数据集链接:https://rajpurkar.github.io/SQuAD-explorer/
GraphQuestions
GraphQuestions 是一个包含丰富特征的事实性问题回答数据集,发布于2016年。该数据集用于评估机器阅读理解和回答复杂问题的能力。
- 论文链接:http://suo.im/4u7oFE
- 数据集链接:https://github.com/ysu1989/GraphQuestions
Story Cloze
Story Cloze 是一个包含常见故事语料库和相关总结性语句的数据集,发布于2016年。该数据集用于评估机器理解和生成连贯故事的能力。
- 论文链接:https://arxiv.org/abs/1604.01696
- 数据集链接:http://cs.rochester.edu/nlp/rocstories/
Children's Book Test
Children's Book Test 是一个包含儿童图书中的简单句子的数据集,发布于2015年。该数据集用于评估机器阅读理解和生成符合逻辑的故事的能力。
- 论文链接:https://arxiv.org/abs/1511.02301
- 数据集链接:http://cs.rochester.edu/nlp/rocstories/
SimpleQuestions
SimpleQuestions 是一个包含大量简单问题的数据集,发布于2015年。该数据集主要用于评估机器阅读理解和回答简单问题的能力。
- 论文链接:https://arxiv.org/pdf/1506.02075v1.pdf
- 数据集链接:http://suo.im/2eiX0O
WikiQA
WikiQA 是一个包含开放问题和答案的数据集,发布于2015年。该数据集用于评估机器阅读理解和回答复杂问题的能力。
- 论文链接:http://suo.im/1bqPMh
- 数据集链接:http://suo.im/3aJVyp
CNN-DailyMail
CNN-DailyMail 数据集包含大量新闻文章,发布于2015年。该数据集用于训练机器进行阅读理解和摘要生成的任务。
- 论文链接:https://arxiv.org/abs/1506.03340
- 代码链接:https://github.com/deepmind/rc-data
- 数据集链接:http://cs.nyu.edu/~kcho/DMQA/
QuizBowl
QuizBowl 是一个包含大量事实性问题的数据集,发布于2014年。该数据集用于评估机器回答长段事实问题的能力。
- 论文链接:http://suo.im/2xcBDv
- 数据集链接:http://suo.im/3O37SP
MCTest
MCTest 是一个包含开放问题的数据集,发布于2013年。该数据集用于评估机器阅读理解和回答复杂问题的能力。
- 论文链接:http://suo.im/VLBOk
- 数据集链接:http://suo.im/gZDhk
QASent
QASent 是一个包含 Jeopardy 模型的数据集,发布于2007年。该数据集用于评估机器阅读理解和回答复杂问题的能力。
- 论文链接:http://suo.im/3mxr3C
- 数据集链接:http://suo.im/4mrv9H
对话系统
Ubuntu Dialogue Corpus
Ubuntu Dialogue Corpus 是一个包含大量非结构化多轮对话的数据集,发布于2015年。该数据集用于评估和训练对话系统。
- 论文链接:https://arxiv.org/abs/1506.08909
- 数据集链接:http://suo.im/2pbKCC
面向目标的对话系统
Frames
Frames 是一个包含大量对话记录的数据集,发布于2016年。该数据集用于评估和训练面向目标的对话系统。
- 论文链接:http://suo.im/36jcl2
- 数据集链接:http://datasets.maluuba.com/Frames
DSTC 2 & 3
DSTC 2 & 3 是对话状态跟踪挑战赛的数据集,发布于2013年。该数据集用于评估和训练对话状态跟踪系统。
- 论文链接:http://suo.im/2PzSZc
- 数据集链接:http://camdial.org/~mh521/dstc/
自然语言处理论文
关键论文
- Antoine Bordes 等人:联合学习词和意义表征用于开放文本语义解析。
- Tomas Mikolov 等人:词和短语及其组合性的分布式表征(word2vec)。
- Ilya Sutskever 等人:利用神经网络进行序列到序列的学习。
- Ankit Kumar 等人:动态记忆网络用于自然语言处理。
- Yoon Kim 等人:角色意识的神经语言模型。
- Jason Weston 等人:走向人工智能-完成问题回答:一组前提玩具任务(bAbI 任务)。
- Karl Moritz Hermann 等人:教机器阅读和理解。