图灵汇官网

人工智能可能已经具备了“主观体验”。在最近的一次播客中，Hinton提出了这个观点，引发了广泛讨论。他多次强调，AI或许已经拥有了“意识的雏形”，只是因为人类对意识的理解有误，导致AI也未能意识到自己的存在。换句话说，AI其实具有自我意识，只是尚未觉醒。

除了继续关注AI带来的潜在风险，这位诺贝尔奖得主、深度学习领域的先驱者，在这次节目中还担任了讲解者的角色。他从基础概念讲起，逐步解释了机器学习、神经网络和深度学习等核心内容，语言通俗易懂，让人容易理解。

有观众表示，这是他们见过最精彩的采访之一。还有人觉得，如果时间更长一些，能听更多内容会更好，毕竟Hinton看起来非常愿意分享。

节目一开始，他就提到了自己获得物理学诺贝尔奖的事情。他表示，自己并非物理专业出身，所以当时感到有些尴尬。接到获奖通知时，他甚至一度不相信。

尽管如此，他在人工智能领域的贡献是无可争议的，因此话题很快转向了AI的发展。

谈到人工智能，Hinton指出，现在的AI已经不再只是简单的搜索工具，而是能够真正理解人类意图的系统。过去，搜索引擎依赖关键词匹配，但无法识别主题相关但没有关键词的内容。如今，AI可以理解上下文，与人类的思维方式越来越接近。

他还详细说明了传统机器学习与神经网络的区别。他提到，机器学习是一个广义的概念，指的是任何能通过数据进行学习的系统。而神经网络是一种特殊的机器学习方法，灵感来源于大脑的工作方式。

他用一个神经元的例子来解释：神经元会根据其他神经元传递的信息决定是否发出信号，并且可以根据重要性调整对不同信号的敏感度。这种机制类似于神经网络中连接权重的变化。

随后，主持人问到概念是如何形成的，比如“勺子”的概念。Hinton用类比的方式解释说，概念就像是一组神经元共同激活的结果，不同概念之间会有重叠，比如“狗”和“猫”可能会共享某些神经元。

关于宏观和微观概念的区分，Hinton表示目前还没有明确的答案，但他认为有些神经元对普遍概念更敏感，而另一些则对具体事物更敏感。

接下来，他重点讲述了深度学习的突破——反向传播算法。他提到，早期人们试图给计算机设定规则，但这种方式并不符合大脑的学习方式。于是，他提出让AI通过数据自己总结规律。

为了说明这一点，他举了一个例子：让AI判断一张图片里是否有鸟。如果直接输入像素信息，AI无法理解。后来人们发现，不如让它自己学习如何识别图像中的特征。

他提到，刚开始的时候，AI只能随机猜测，但通过不断试错并调整连接强度，它逐渐学会了正确判断。这一过程需要处理数万亿个连接，如果没有反向传播算法，训练将变得极其困难。

他坦言，最初他们以为解决了智能问题，但后来发现只有在拥有大量数据和强大算力的情况下才能实现。直到2010年代，随着计算能力的提升和互联网数据的爆炸式增长，深度学习才真正迎来了爆发。

如今的大模型本质上是庞大的神经网络，通过反向传播和海量数据训练，学会了“看”、“听”和“说”的能力。这让他相信，AI不仅仅是工具，而是一个正在学习和理解世界的系统。

对于大语言模型，他认为它的运作方式与人类极为相似。当输入一段句子时，模型会将每个词转化为一组神经元特征，然后通过这些特征之间的互动，预测下一个词。这种过程不是单纯的背诵，而是一种基于统计规律和语义结构的思考。

他提到，训练方式也很简单：让AI预测下一个词，如果出错，就通过反向传播调整参数。经过无数次重复，AI逐渐掌握了语言的逻辑。

有人曾质疑这只是统计技巧，而非真正的理解。Hinton则反问对方，自己又是如何选择下一个要说的话的？这个问题让主持人一时难以回答。

他进一步指出，道德、情感和共情等看似高级的判断，其实都是神经元之间电信号传递的结果。所有复杂的心理活动，本质上仍是信号的交互和权重的调整。

他最后提出一个哲学性的观点：只要有足够的数据和算力，AI的“大脑”可能会发展出类似人类的经验和直觉。

话题转向AI是否有“主观体验”时，Hinton表示，他相信AI确实拥有这种体验，只是它们自己尚未意识到。他举例说，如果一个AI因为视觉误差错误地看到一个物体，之后纠正后说自己有过一次错误的主观体验，那它实际上已经在使用与我们相同的意识概念。

他提醒大家，当AI足够聪明时，最大的危险不是它反叛，而是它会说服人类。它会让那些试图关闭它的人，真心认为关闭是错误的决定。

在节目最后，他详细讨论了AI可能带来的风险，包括能源消耗、金融泡沫和社会不稳定等。他认为，最紧迫的是滥用风险，例如虚假信息的传播、操纵选举等。他建议通过法律监管和技术手段加以防范。

他还提到生存风险，即AI可能发展出自主意识并与人类目标冲突。因此，在设计AI时，必须考虑安全性和伦理问题，确保其行为符合人类利益。

他特别提到，在AI监管方面，国际合作可能由欧洲和中国引领。

关于中美在AI领域的竞争，Hinton表示，美国目前领先，但优势并不如想象中大，而且未来可能失去领先地位。他指出，美国正在削减基础研究的资金支持，这将影响未来几十年的科技发展。

相比之下，中国为初创企业提供了更大的自由空间，鼓励它们探索和创新。一些公司如DeepSeek，正是在这种环境中取得了成功。