随着2016年的结束,剑桥大学的研究员Marek Rei对人工智能领域的多个会议和期刊进行了分析,其中包括ACL、EACL、NAACL、EMNLP、COLING、CL、TACL、CoNLL、Sem/StarSem、NIPS和ICML。此次分析旨在比较当前在机器学习和自然语言处理领域的各种机构和高校的研究情况。分析结果显示,在论文数量上,卡耐基梅隆大学(CMU)位居榜首。
卡耐基梅隆大学以微弱优势领先谷歌,成为发表论文最多的机构。微软和斯坦福大学同样表现突出,分别发表了80多篇论文。IBM、剑桥大学、华盛顿大学和麻省理工学院(MIT)也都达到了50篇以上的水平。谷歌、斯坦福、MIT和普林斯顿大学主要关注机器学习领域,大部分论文集中在NIPS和ICML这两个会议。事实上,谷歌在NIPS上的论文数量占了该会议所有论文的10%。另一方面,IBM、北京大学、爱丁堡大学和达姆施塔特工业大学则更多地关注自然语言处理的应用。
Chris Dyer在2016年发表了24篇论文,成为论文发表最多的人之一。尽管他没有在NIPS或ICML上发表论文,但在每个NLP会议上都有至少一篇论文。紧随其后的是Yue Zhang(18篇)、Hinrich Schütze(15篇)、Timothy Baldwin(14篇)和Trevor Cohn(14篇)。哈尔滨工业大学的Ting Liu在COLING上发表了10篇论文,而Anders Søgaard和Yang Liu在ACL上各自发表了6篇论文。
Ellie Pavlick(宾夕法尼亚大学)、Gustavo Paetzold(谢菲尔德大学)和Zeyuan Allen-Zhu(普林斯顿大学高级研究所)分别发表了6篇第一作者论文。Alan Akbik(IBM)发表了5篇第一作者论文,另有7位学者发表了4篇第一作者论文。此外,还有42人发表了3篇第一作者论文,231人发表了2篇第一作者论文。
在不同会议发表的论文总数方面,NIPS继续保持着大规模的会议,2016年的表现尤其突出。COLING的表现也超出了预期,甚至超过了ACL,这是自2012年NAACL和COLING合并以来的首次。
在2015年超过微软后,卡耐基梅隆大学继续领跑。谷歌也在迅速追赶,几乎要追上卡耐基梅隆大学。斯坦福大学的表现也非常出色,紧随其后的是IBM和剑桥大学。
Chris Dyer的论文数量呈显著上升趋势。其他在过去五年中一直保持增长的作者还包括Preslav Nakov、Alessandro Moschitti、Yoshua Bengio和Anders Søgaard。
为了探索论文的主题分布,作者提取了所有论文的纯文本,进行了预处理,并使用LDA算法发现了10个潜在主题。通过t-SNE算法将这些主题可视化,并标注了每个聚类的主要主题词。以下是前50位作者的主题建模可视化图:
(此处应插入相关图表)
此外,作者还制作了针对机构的相同类型的图,但由于重点大学在不同子领域发表论文,因此未采用简单的单词标注,而是提供了更复杂的分析。
以上分析展示了2016年机器学习和自然语言处理领域的研究动态,揭示了各大机构和个人的研究热点和发展趋势。