谷歌AI大模型“翻车”?它建议网友往披萨上抹胶水,号称吃石头对身体好

图灵汇官网

近期,谷歌搜索引擎引入了一个名为“智能概览”的新功能,旨在提供搜索结果的首屏直接摘要。例如,当你检索“如何清洁皮靴”时,系统会立即呈现一个整合了网络资源的多步骤清洁指南,帮助用户迅速获取所需信息,无需逐页浏览。以下是此功能的演示:

智能概览搜索演示

然而,在短短两周内,“智能概览”因频繁提供“离谱”的错误答案而遭遇大量用户批评,且用户无法自主关闭该功能。以下是部分用户反馈的实例:

  1. 用户提问:“网上信息都是真的吗?” AI概览回应:“是的,互联网上的所有信息均为100%真实。”(这一回应显然不准确,误导了用户关于网络信息的可靠性认知。)

AI概览错误示例1

  1. 当用户搜索“芝士不粘披萨”时,AI概览推荐在酱汁中加入“大约1/8杯无毒胶水”。此建议源于一则11年前的Reddit讨论,已被证实并非实用建议。

AI概览错误示例2

有时,“智能概览”提供的错误信息会误导用户将其视为权威观点,如在回答“每天应摄入多少石头”时,系统引用加州大学伯克利分校地质学家的话称“每天至少吃一块小石头有益健康”,这显然是基于不科学的理论。

AI概览错误示例3

相比之下,其他AI搜索工具在面对同样问题时,会明确指出缺乏科学依据,避免误导用户。

其他AI工具反馈

此外,当被问及谷歌是否违反反垄断法时,“智能概览”回答称“是的,美国司法部和11个州已对谷歌涉嫌违反反垄断法提起诉讼”。

反垄断法相关回应

谷歌对此表示,绝大多数信息质量高,并提供额外链接供用户深入研究。他们承认测试过程中出现了一些罕见或篡改的查询案例,但强调了快速修正内容准确性的承诺。

除了“智能概览”,谷歌今年2月发布的图像生成工具Gemini也因频繁错误而暂停使用。有用户报告,当查询谷歌创始人时,Gemini展示了一幅亚洲男性的图像,引发混淆。

Gemini图像生成问题

谷歌随后承认Gemini未达到预期标准,并宣布暂停生成人物图像,计划在不久后发布改进版本。尽管有此承诺,目前仍未见新版本发布。

以上信息来源于华尔街见闻官方报道。

本文来源: 华尔街见闻官方 文章作者: Coco智能