自然语言理解

图灵汇官网

自然语言理解已经有几十年的历史,但大部分研究集中在英语上。虽然读者可以在《The Handbook of Artificial Intelligence》或《Language as a Cognitive Process》等书中找到相关资料,这些书籍通常只强调成果而忽视了存在的深层次问题。德雷福斯在其著作《计算机不能做什么》中对这些问题进行了批评,尽管他的观点有时显得过于抽象。本文旨在总结自然语言理解中遇到的主要难题,以便为有兴趣从事这一领域的读者提供指导。

1. 理解自然语言必然涉及到意义的探讨。

语言学家将意义分为多个方面,其中最重要的区别在于语言学(语义学)和语用学这两个方面。语言不仅是交流的工具,而且其意义依赖于交流的环境和目的。从这个角度看,意义被称为用意(语用学意义)。例如,“我把车推来了”这句话,具体是指哪辆车、如何推,都需要从环境中寻找答案。孤立地讨论句子的意义则属于语义学的范畴。我们可以将理解过程简化为一个从句子到其语义的转换过程:

[ U: L rightarrow S ]

其中 ( L ) 是语言条目,( U(l) ) 表示该条目的语义。然而,语言学的研究还不完善,语言范畴难以形式化。因此,自然语言理解系统面临两大挑战:语言学研究不足和语言范畴难以形式化。

2. 将自然语言视为可以用形式语法定义的语言集合,存在许多根本性的问题。

例如,如何将连续的汉字句子切分成一个个“词”?这个问题看似简单,但实际上却非常复杂。汉语作为一种孤立语,与英语(屈折语)和日语(粘着语)有很大差异。因此,“词”的切分在汉语中尤其困难。汉语的词汇表不固定,造词容易,临时组合的词语也可以获得词的地位。因此,单纯依赖词典来切分词远远不够,需要结合句法分析。

3. 即使解决了词的切分问题,用形式语法来定义自然语言仍然存在困难。

首先,一个词列是否应被视为一个句子常常存在争议。其次,判断一个词列是否为句子的标准不同,有的句子虽然符合语法,但在实际交流中不具备功能。最后,正常的语段往往不符合书本上的语法规则,语法结构只能决定意义的大框架,细节则需要使用“意合法”的原则来补充。

4. 表示意义的方式也是一个需要考虑的问题。

传统的表示方法如谓词逻辑或语义网络能力有限。例如,“汽车是人类的一项技术杰作”这句话中的“汽车”并不是具体的对象,而是抽象的概念。这些例子表明,现有的表示方法难以涵盖所有情况,需要进一步研究。

5. 确定句子意义时会遇到歧义问题。

句子的意义受结构、成分意义及其组合方式的影响。同形异构的歧义较易处理,但词汇本身和同构异义的歧义较为复杂。汉语由于缺乏形态标志,这种情况尤为严重。此外,由于记录语音时丢失某些信息,也会带来歧义。

6. 即使开发出一个自然语言理解系统,验证其是否真正理解某个句子也非常困难。

为了验证系统,可以通过释义、翻译、推理、摘要等方式展示其能力。然而,这样做会引入新的问题,例如如何模拟环境以及如何处理计算和推理。鉴于以上困难,全面的自然语言理解系统几乎是不可能的。因此,可以构建一种“部分的”自然语言理解系统,限定处理的词汇和句式范围,并对环境进行合理假设。这样做的关键在于恰当地选择限制范围。

本文来源: 图灵汇 文章作者: 程曼