图灵汇官网

AI21 Labs近日发布了一款名为SenseBert的新模型，显著提升了词汇消歧的能力，并在复杂的WiC（Word in Context）任务中取得了当前最佳结果。此外，该公司还推出了一款名为“HAIM”的自研文本生成系统，其可控性超越了其他前沿的文本生成系统，例如OpenAI的GPT-2。

自然语言理解和生成对于AI系统来说一直是一项重大挑战。人类语言的复杂性和模糊性使得AI系统在处理一些简单的文本歧义问题时显得力不从心。例如，“He is a great bass player who hates eating bass”这样的句子，其中两个“bass”分别代表不同的含义。AI算法通常难以正确区分这种歧义。

为了应对这一难题，AI21 Labs开发了SenseBert模型。SenseBert不仅能够预测被遮盖的词汇，还能根据上下文预测其实际含义。研究人员利用英语词汇数据库WordNet作为参考系统，设计了一个网络来预测单词在特定语境中的实际含义，然后将这个预训练网络嵌入到BERT模型中。

除了SenseBert，AI21 Labs还推出了HAIM文本生成系统。HAIM的可控性优于现有的文本生成系统，如GPT-2和Grover。HAIM的工作原理是先提供一个开头和结尾，然后生成合适的文本填充中间部分，使其与开头和结尾相衔接。HAIM的名字来源于“Halfway Acceptable Interpolating Machine”，这是一个玩笑式的预先合理化。

AI21 Labs成立于2017年，总部位于以色列特拉维夫。创始人Yoav Shoham是斯坦福大学计算机科学系荣誉退休教授，他同时也是AI Index的发起人。AI21 Labs的目标是构建具备卓越自然语言理解和生成能力的AI系统。该公司已获得950万美元的投资，并拥有20人的团队。

Shoham博士认为，尽管神经网络在许多领域取得了显著进展，但它们仍然缺乏常识，距离实现人类智能还有很长的路要走。因此，他认为需要将传统的知识表示方法与深度神经网络结合起来，以提升AI系统的性能。

AI21 Labs正致力于解决自然语言理解和生成这一AI领域的关键挑战。该公司希望从富有成效的角度出发，逐步推进这一目标的实现。