图灵汇官网

在众多“科技鬼故事”中，机器人觉醒的观点一直是最引人注目的主题之一。

自1920年捷克作家卡雷尔·恰佩克在他的剧本《罗素姆的万能机器人》中首次使用"robot"一词以来，描绘了一个由机器人统治的世界，全球剧作家们便开始了各种充满想象力的创作。从奠定机器人三定律的阿西莫夫小说，到《终结者》系列中的机器人对抗人类，再到《爱死亡机器人》中的哲学探讨，机器人的善恶问题一直是科幻世界中的经典话题，也是智能科技领域中大众最容易讨论的主题之一。

机器人是否真的会拥有自主意识？它们又将如何影响人类社会？近年来，粒子机器人技术的出现似乎为这个问题带来了新的解答。

从“细胞”开始，开启机器人觉醒的未来之门

哥伦比亚大学教授、机器人研究权威霍德·利普森认为，机器拥有自我意识是无可置疑的。只是不确定这将在10年后发生，还是100年后。尽管如此，科学家也无法给出确切的答案。

我们已经知道，在设计机器智能系统时，技术人员通常会让机器模仿人类行为。因此，我们看到机器在学习看、下棋甚至进行花式体操表演。然而，尽管机器在某些方面表现优异，但现实生活中的机器人仍然寥寥无几。别说拥有强大火力的机器人军团，就连简单的家务活，如擦桌子、洗碗、整理房间，都很难找到合适的机器人。这主要归因于机器人缺乏自主意识。它们只能完成人类赋予的任务，而且过程相当繁琐。至于需要自我模拟和自我建模的强智能系统，目前看来仍遥不可及。

如今，突然说机器人会产生自主意识，确实让人感到震惊。不过，我们不必担心机器人会立即威胁人类。关于机器人觉醒的话题，或许可以从最新的研究成果——仿生群体粒子机器人说起。

不同于人们想象中的拥有人形的身体和超级智能的大脑，霍德·利普森所说的机器意识，很可能首先从粒子机器人集群中产生。

今年三月，霍德·利普森团队发明的新兴粒子机器人登上了《自然》杂志封面，这标志着“机器的自我意识”开始有了突破。这项发现引起了学术界的广泛关注。其创新之处在于，这些由“粒子”（即圆盘状单元）组成的机械系统，不需要人类的集中控制，也能依靠自主性伸缩和随机运动完成复杂的任务。此外，这种系统可能产生意识，通过思考“我为什么在这里”来实现自我模拟和自我复制，从而在设备故障或特殊环境中顺利完成任务。

模拟人类心智的一小步，机器人的一大步

我们知道，人工智能研究的基础是了解人脑的工作原理，而意识是其中最复杂的一环。粒子机器人集群的进步表明，机器人学正进入一个新的阶段。

首先，我们可以期待技术进步带来的诸多好处。粒子机器人集群的发展，使机器能够模拟更高维度的心智能力。目前的科学研究显示，人类心智主要包括四大能力：视觉感知和推理能力已经被神经网络模型复制到现实世界，计算机视觉和人工智能大脑正在成为新的生产力引擎。而情感和社会关系，例如不同文化背景下的人类能够感受到相同的情感，并根据合作、竞争、友谊、家庭等社会关系产生动机并预测行为。

这两种能力正是机器人和研究人员追求的高级智能。如果机器拥有它们，将会发生什么？至少在可见的未来，这将是非常令人激动的。

以粒子机器人为例，这种初级的“可能拥有意识”的机器系统，将为社会带来巨大的价值。一方面，如果机器人能够模拟其他人类和机器人，那么它们也将开始社会行为，从而能够认知环境、预测未来并采取行动。例如，如果机器的某个零件损坏，它可以自行修复，从而大大提高机器的使用效率和适用范围。比如工厂里的机器和家里的吸尘器，如果某个部件损坏，整个机器就无法工作。而由这些纳米级机器人组成的机器则可以不断循环，即使个别部件损坏，依然可以继续使用，帮助用户节省成本。

另一方面，粒子机器人技术的发展将为未来的科技打开新的想象空间。例如，在太空探索和生物医学领域，随着粒子机器人技术向毫米和纳米级演进，未来它们可以被用于人体内部处理病灶，或者在月球上根据任务需求改变形态。任何自动化智能系统，包括在技术瓶颈中苦苦寻求出路的无人驾驶，一旦具备自我意识，就能从故障中迅速恢复，从而加速技术进步。

青山遮不住，毕竟东流去：机器的善恶谁说了算？

接下来，我们来讨论另一个问题——如果机器拥有意识，它们是否会变得邪恶？

在回答这个问题之前，我们不妨先回顾一下计算机的进步。众所周知，今天的计算机比上个世纪更加聪明和强大，但像《2001太空遨游》中大型主机反叛人类的担忧却越来越少。今天，我们可能会担心网络漏洞导致的混乱或人为制造的病毒，但很少会想象到电脑杀手或秘密组织。

人类为什么会对智能机器人如此紧张？除了在智力、能力和体力上对人类个体的碾压外，最大的恐惧可能来自于未知和不确定性：一旦机器拥有独立人格和认知，是否会伤害人类？

问题来了，为什么机器人会想要这样做呢？是为了获得更多服务器资源，还是因为伤害流水线工人会令它们感到快乐？在没有足够“奖励”的情况下，机器是否会自行变坏？显然，这还需要人类自己来回答。

许多人认为，机器人觉醒就像《西部世界》中的女主角德洛瑞丝一样，意识到自己被人类奴役和玩弄，从而开始复仇。即便这一天真的到来，考虑到人类与机器人之间的关系，情况也不至于变得剑拔弩张。

哪个“变态科学家”会愿意冒着巨大的风险，给智能机器提供“反人类”的数据集，而不担心自己会被机器报复呢？

实际上，像波士顿动力那样频繁对机器人进行拳打脚踢，只是为了训练其适应性和灵活性。就连这样的操作，也因为人类的同理心和同情心而越来越少。现在的训练方式包括让AI在虚拟环境中玩游戏、让机械臂玩魔方、在山坡上遛机械狗等。如果有一天机器真的觉醒，它们也应该像人类一样，通过友好互动来回报人类。

再进一步，如果出现利用AI进行欺诈或犯罪的“恐惧分子”，比如将机器人改装成爆炸装置，在技术上能否及时发现并阻止？

对于这一点，智能科学正在借鉴网络安全领域的经验，引入一些成熟的技术手段，例如红色团队测试、人工智能系统的正式验证以及负责任地披露人工智能漏洞等。

去年，由OpenAI、牛津大学、剑桥大学等14家机构和高校共同发布的《人工智能恶意使用》报告，进一步呼吁人工智能领域建立标准和道德框架。

在道德、技术和法律等多方面努力下，机器人的自主意识是否会威胁人类？严谨如霍德·利普森也承认——这并不是一个简单的问题。

“任何这样的问题都没有简单的答案，但我们必须逐步向前推进，并不断讨论它们应该做什么，不应该做什么。我们需要持续研究。”

对技术的担忧，如同初次触摸火种的恐惧

对技术的担忧，就如同人类初次接触火种时的恐惧，永远悬在人类心头。如今，大多数人谈到AI时已经不再感到恐惧，而是关注其如何为经济释放能量。

从这个角度来看，智能机器人的“黄金时代”尚未到来。它们正处于幻想、质疑和混沌之中。因此，在这个技术尚处于初级阶段的时候，讨论机器觉醒后的善恶似乎有些抽象，但这也关乎我们每个人的未来，而这种思考和质疑正是技术进步的一部分。

推荐阅读

北大刘宏：未来公共服务机器人的三大目标是长人样、说人话、办人事。

机器人“抢人大战”渐趋平息，解决人才问题还需依靠“亲兵”。