自然语言处理(NLP)的历史源远流长。自从计算机问世以来,人们就开始探索如何处理语言。从最早的字符串算法到后来的乔姆斯基生成文法,再到自动机、随机上下文无关分析树以及KMP字符串匹配算法,计算机一直在不断进步中。
在NLP领域,诸如文本分类等任务早已成熟,例如垃圾邮件分类等,只需简单的统计方法或规则就能实现不错的性能。相比之下,在计算机视觉(CV)领域,20年前的MNIST分类问题还未得到妥善解决。90年代,随着信息检索技术的发展,一系列文本匹配算法如BM25应运而生,这推动了NLP的快速发展,而此时的CV领域显得相对沉寂。
计算机视觉领域的前身是图像处理,主要关注图片的压缩、滤波和边缘提取等。然而,早期的计算机视觉在特征提取方面遇到了很大的挑战。无论是HOG还是其他手工特征提取方法,都无法达到理想的效果,因此大规模商业化应用面临困难。与此同时,NLP领域已经利用手工特征加上支持向量机(SVM)取得了显著进展。
近年来,深度学习技术的兴起解决了计算机视觉中手工特征提取的难题。深度学习模型通常由特征提取器和分类器组成,可以自动从数据中学习特征,生成传统方法难以提取的特征,从而推动了计算机视觉的迅猛发展。
尽管NLP在深度学习浪潮中也取得了进步,但其突破并不像计算机视觉那样显著。例如,在许多文本分类任务中,复杂的双向LSTM模型的表现未必优于简单的手工特征加SVM模型。此外,传统的SVM模型具有速度快、体积小、数据需求少等优点,使得它们在某些应用场景中仍具优势。
NLP面临的更大挑战在于知识困境。与计算机视觉侧重于感知智能不同,NLP需要处理认知智能,这必然涉及到知识的表示和处理问题。然而,知识往往是分散且难以表示的,这给NLP带来了额外的挑战。
推荐阅读:
相关资源链接: [此处插入链接]