图灵汇官网

人工智能识“枪”不识“龟”

在科技日新月异的背景下，人工智能（AI）在人脸识别、自动驾驶、智能监控等领域展现出强大的识别能力，成为人类可靠的技术助手。然而，即便AI表现如此出色，也难免会出现识别失误的情况。近日，美国麻省理工学院（MIT）实验室的一项实验揭示了AI识别过程中的“盲区”。

MIT的研究团队设计并打印了一个乌龟模型，无论从哪个角度看，谷歌AI系统都将它误认为是一把枪。这一现象仿佛是AI世界中的“视觉幻觉”，与人类对同一图片的理解截然不同。这类能够误导AI的图片被称为“对抗性图像”。它们利用特定设计，使得AI在判断时出现偏差，将乌龟误认为枪械，而人类却难以察觉其中的玄机。

以往，对抗性图像虽显奇效，但通常可以通过放大、旋转等操作，让AI正确识别图像。然而，MIT团队创造的乌龟模型却能在各种视角下成功“欺骗”AI，展现出更高的迷惑性。

为应对这一挑战，研究团队开发了一种算法，能够轻易地在模型中加入误导元素，让AI无法准确识别。不仅如此，他们甚至制作了一个能让AI误以为是咖啡的棒球。

这项技术不仅适用于三维模型，还能应用于二维图像。据《ITmedia》报道，该团队创造的三维模型有84%的概率让AI产生误解，而二维图像的成功率更是高达94%。

研究者指出，这意味着普通人眼中的寻常标识，如路标，可能对自动驾驶车辆构成危险。随着神经网络的广泛应用，这一问题值得我们深思。

MIT使用了谷歌开发的图像分类AI“Inception-v3”进行测试，尽管尚未对所有识别软件进行评估，但《The Verger》指出，当前并无软件专门针对这一缺陷进行修复。

谷歌官方回应表示，虽然实验声称可以从“任何角度”欺骗AI，实际情况是在多数角度下实现，而非任何角度。要误导AI，需要深入了解视觉算法的弱点，而对于商业级自动驾驶厂商的视觉系统，这样的挑战门槛较高。

目前，对抗性图像对公共安全的影响几乎可以忽略不计，尽管其效果显著，但在现实应用中的适用场景有限，且AI视觉技术尚未广泛普及。然而，随着技术的不断发展，AI视觉应用将日益增多，及早解决这一潜在隐患至关重要，以防未来可能出现更为严重的后果。