谷歌 AI 搜索引擎被指严重“幻觉”,错误称印度空难失事波音客机为“空中客车”机型

图灵汇官网

图灵汇消息显示,上周印度发生了一起航空事故,一架波音787-8型飞机在起飞后不久就坠毁了,航班编号为AI-171。机上共有242人,其中包括169名印度人、53名英国人、1名加拿大人以及7名葡萄牙人。

之后,有人注意到谷歌推出的AI搜索工具在这个事件中出现了明显的失误。当人们询问失事飞机的具体型号时,AI错误地表示这起事故涉及的是空中客车A330-243型飞机。这一情况引起了Reddit等平台用户的强烈不满。

相关图片展示出了谷歌AI搜索功能存在的问题。(图片描述省略)

针对此事,谷歌方面表示已经手动修正了这个错误的答案。公司承诺会继续优化系统,并从这次事件中吸取教训,对现有机制做出调整。现在,该错误答案已经不再出现。

分析指出,AI之所以给出不正确的信息,很可能是因为许多关于此事故的报道中反复提到空客是波音的竞争者,导致AI处理信息时产生了混淆。

实际上,谷歌也认识到自己的AI搜索工具可能会出现偏差,在每次搜索结果下面都有一个说明,指出AI提供的答案可能存在错误。虽然这样的警告在各类AI产品中普遍存在,但它并不够醒目。不少用户在面对看似准确的AI回复时,往往会忽略这条警告。然而,在重要时刻,这种疏忽可能造成误解,甚至带来连锁反应。

请注意,文章中的外部链接仅用于提供额外信息,供读者参考使用,图灵汇的所有内容均遵守此声明。

本文来源: 图灵汇 文章作者: 英特尔物联网
    下一篇

IT之家 6 月 12 日消息,AI 技术企业 Anthropic 当地事件本月 6 日宣布为美国国家安全客户推出一系列的 Claude Gov 定制模型,这些模型的构建基于美国政府客户的直接反馈。A