图灵汇官网

电影《星际特工》中的记忆消除棒，现在在AI领域找到了实际应用。

近期，一项创新研究揭示了如何在人工智能系统中引入类似人类记忆清除的功能。这一突破性技术借鉴了电影《星际特工》中记忆棒的概念，旨在构建一种AI的“遗忘”机制，以防止AI对人类产生反向控制。

据《每日邮报》报道，瑞士洛桑联邦理工学院的分布式系统设计实验室教授Rachid Guerraoui带领的研究团队开发了一套系统，能够选择性地清除AI的部分记忆，从而中止其学习过程，而不会破坏整体学习框架。这一过程犹如电影中记忆棒的效果，瞬间清除记忆，实现AI的“遗忘”。

Guerraoui强调，随着AI愈发具备自我决策能力，避免人类干预成为了一个关键挑战。因此，他呼吁开发新的系统，确保AI不会逃离人类的指令范围。研究团队认为，这不仅关乎技术层面的创新，也涉及伦理和安全问题。

为了应对这一挑战，研究人员提出了一系列策略。比如，在自动驾驶汽车中，如果需要紧急干预，人类可以暂时接管驾驶权。然而，这需要确保干预过程的平滑过渡，以免对车辆操作及周围环境造成影响。此外，通过预训练算法并在低探测率的自动驾驶车辆上部署，可以扩大AI技术的应用范围，同时减少潜在的安全风险。

值得注意的是，AI系统的自我学习能力是其强大之处，但也可能导致学习过程难以中断。面对这一挑战，Guerraoui指出：“我们的目标不是阻止机器学习，而是通过‘程序化’的方式控制这一过程，确保在必要时能有效干预，而不会影响AI的正常学习进程，或引导其优化行为。”这项研究不仅展示了AI领域的前沿探索，也为未来AI伦理和安全标准的设定提供了重要参考。