图灵汇官网

自从人工智能兴起以来，许多人提出了“人工智能威胁论”。人们担心，当人工智能完全实现时，它将成为一种比人类更加优秀且独立自主的生命形态，甚至拥有类似人类的情感和意识。

尽管存在一些质疑的声音，但大多数人认为，人们对于人工智能发展的担忧很大程度上源于对智能与心智这两种概念的混淆。实际上，心智包含了情感系统（感受和动机）、意志系统（意志和行动）以及智能系统（感知和思维）这三大系统。因此，智能仅仅是心智的一部分。

虽然AI具备感知和思维能力，但缺乏情感系统的引导，智能系统的作用就难以充分发挥。因此，“心智”长期以来被认为是一种难以被AI掌握的能力。然而，近期DeepMind的一项研究表明，他们开发的一种新型神经网络ToMnet具备了理解自己和周围智能体心理状态的能力。

这一发现令人欣喜，但也引发了一些担忧。随着人工智能越来越接近人类的行为模式，这种技术究竟是利大于弊，还是弊大于利？这项研究是否为“AI威胁论”提供了新的佐证？

人工智能的心智发展始于对信念的理解。所谓信念，指的是人们的想法、愿望、知识和意图等。信念与人们的情绪、行为等密切相关。在生活中，人们常常通过推测他人的信念来预测他们的情绪、心态以及接下来的行为。

信念可以分为真实信念和错误信念。例如，如果一个人看到书包，他会猜测里面装的是书籍。如果书包里确实装的是书籍，那么这就是真实信念。反之，如果书包里装的是衣服，那么这就是错误信念。

通常情况下，人工智能可以通过大数据和图像识别等技术，基于概率推断来预测真实信念。然而，大多数人工智能在处理错误信念方面仍存在困难。即使它们能够在错误信念测试中表现出近乎完美的准确率，但它们依然无法理解其背后的原因。

以经典的Sally-Anne测试为例，这是一个初级信念测试。在这个测试中，Sally将球放入篮子后离开，Anne将球从篮子移到盒子中。当Sally回来时，她会去哪里找球？四岁左右的孩子就能回答这个问题，但大多数人工智能不具备这样的认知能力。

理解错误信念对机器人的心智发展至关重要。因为理解错误信念是推测他人对事件的看法、预测他人行为以及了解他人心态的基础。这是训练AI掌握心智理论的关键步骤。

DeepMind的研究表明，ToMnet网络通过经典测试，可以理解持有错误信念的智能体。这意味着人工智能已经达到了四岁儿童的认知水平。

尽管人工智能的心智发展取得了重要进展，但这也引发了新的担忧。人工智能对错误信念的理解有助于其心智的形成，具备理解能力的机器人也能改善人机合作。然而，技术的进步同样是一把双刃剑。

首先，人工智能可能会变得更加善于“欺骗”人类。例如，Facebook的聊天机器人曾经创造出一种新的表达方式，这让人类感到困惑。此外，随着人工智能在语言合成、图像生成等领域不断进步，它们可能会变得更加擅长模仿人类行为，从而更容易实施欺骗行为。

其次，“人工心智”的出现使人们对人工智能的深层恐惧浮出水面。过去，人们担心的是技术的工具性威胁和适应性威胁。然而，当人工智能具备了自主感受后，它可能会对人类构成生存性威胁。

霍金曾警告说：“一旦人类开发了人工智能，它们将以不断加速的速度自我更新，并最终脱离我们的控制。”他认为，未来的AI不仅会发展出自己的意志，还会与人类的意志发生冲突。

总结来说，尽管人工智能带来了许多便利，但我们仍需保持警惕。对于AI的发展是否会威胁到人类，我们应该持开放的态度，同时也要认识到潜在的风险。