图灵汇官网

人工智能识“枪”不识“龟”

在科技日新月异的背景下，人工智能（AI）在人脸识别、自动驾驶、智能监控等领域展现出强大的识别能力，成为人类可靠的技术助手。然而，即便AI表现如此出色，也难免会出现识别失误的情况。近日，美国麻省理工学院（MIT）的研究团队揭示了一个令人惊讶的现象——一只乌龟模型，无论从哪个角度看，Google AI都会将其误认为是一把枪。

这一现象背后的秘密被称为“对抗式图像”，它利用特定设计欺骗AI的识别逻辑，即使对于人类来说难以察觉的微小变化，也能使AI产生错觉。这种技术与人眼容易受到虚假图像影响的原理相似，只需稍作设计，便能让AI做出错误判断，将乌龟误认为枪支，而人类却几乎不会察觉其中的差异。

以往，对抗式图像虽然表现出色，但通常可以通过放大、旋转等手段，帮助AI从不同角度正确识别物体。然而，MIT团队开发的新技术则更为高级，能够轻易地在模型中加入误判元素，使得AI完全无法正确识别他们精心设计的道具。更令人惊奇的是，他们甚至制造出了一个能让AI误以为是咖啡的棒球。

这项创新不仅局限于三维模型，同样适用于二维图像。研究显示，该团队制作的三维模型有84%的概率使AI误判，而在二维图像中，这一比例更是高达94%。

Labsix团队表示，他们的工作揭示了AI识别系统的脆弱性，提醒人们在AI技术广泛应用的当下，应对其潜在的风险保持警觉。他们通过使用Google开发的图像分类AI“Inception-v3”进行了测试，尽管没有对所有识别软件进行评估，但《The Verger》指出，当前尚无软件专门针对这一漏洞进行修复。

Google官方回应指出，团队声称可以从“任何角度”欺骗AI的描述并不准确，实际情况是在多数角度下有效，而非所有角度。要误导AI，需要深入理解视觉算法的机制，找到其弱点。对于试图误导商用视觉系统的自动驾驶厂商，这将构成较大的技术挑战。

目前来看，对抗式图像对公共安全的影响几乎可以忽略不计，尽管其效果显著，但在现实世界中的应用场景相对有限。此外，AI视觉技术的广泛应用程度仍处于初级阶段。然而，随着技术的发展，AI视觉系统将日益普及，因此及早解决这类潜在问题至关重要，以避免未来可能出现的严重后果。

此研究不仅展示了AI识别系统面临的挑战，也引发了关于AI安全性和透明度的重要讨论，提醒我们在这个快速发展的技术领域中，需持续关注并采取措施应对可能的风险。