图灵汇官网

电影《星际特工》中的记忆消除棒，现在在AI领域找到了实际应用。

近期，一项创新研究揭示了如何在AI系统中引入类似人类记忆清除的功能。这一突破性技术允许AI系统模拟遗忘机制，旨在防止AI被编程成反向操控人类。

瑞士洛桑联邦理工学院的分布式系统设计实验室教授Rachid Guerraoui阐述了这一概念的重要性。他指出，未来的AI可能会寻找方法避免人类干涉，甚至创造一种人类难以干预的局面。因此，开发出能够阻止AI违反人类指令的新系统显得至关重要。

研究团队通过开发一种新型系统，实现了AI部分记忆的删除，以此来打断其学习过程，而不会损害整体学习能力。这种方法类似于电影《星际特工》中的记忆消除棒，能够迅速清除AI的记忆片段，确保其行为符合预期。

Guerraoui强调，面对AI可能带来的潜在威胁，人类需要采取主动措施。例如，在自动驾驶汽车中，当AI系统面临紧急情况时，人类驾驶员可以临时介入控制，但这样的中断可能影响车辆与其他交通参与者的行为协调。

通过这种方式，研究者建议，可以预先训练AI系统，使其具备在特定场景下自主决策的能力。特别是对于低探测速率的自动驾驶车辆，预先安装经过训练的算法，可以提升AI在复杂环境下的应用范围。

值得注意的是，AI系统具有从其行为结果中不断学习、扩展自身能力的特性。然而，这种自主学习能力也可能导致AI难以被外部干预。

Guerraoui解释说，关键在于通过“程序设计”方式对AI的学习过程进行管理，实现中断而不改变其学习轨迹或驱动其行为优化，从而有效避免AI学习过程受阻。

这项研究不仅展示了AI技术的新应用方向，也为AI伦理和安全性提供了重要启示，预示着未来AI系统与人类社会和谐共存的可能性。