图灵汇官网

前言

图灵汇消息显示，亚马逊云科技（AWS）发布了一款名为“自动推理检查”的新工具，目的是应对AI模型容易产生的幻觉问题。这款工具首次出现在拉斯维加斯的re:Invent 2024大会上，主要功能是通过比对客户提供的信息，来确认AI模型输出的准确性。

AWS的新工具

AWS提到，“自动推理检查”是目前唯一专门用来对抗幻觉的解决方案。不过，这个说法未必完全成立。今年夏季，微软推出了名为“校正”的功能，同样用于识别AI生成文本中的潜在错误。与此同时，谷歌的Vertex AI也具备类似工具，允许用户借助第三方数据、自有数据库或搜索引擎提升模型的稳定性。

“自动推理检查”依托AWS的Bedrock模型托管服务以及Guardrails工具运行，能够判断模型回复是否符合预期。客户可上传资料构建事实库，随后该工具会生成相关规则，并支持优化后应用于模型内。当模型给出答复时，此工具会核对答案的真实程度，若发现幻觉现象，则会提供修正后的正确答案，同时列出可能的错误选项，方便客户评估模型偏差情况。

案例实践

普华永道已利用“自动推理检查”向客户提供定制化AI助手服务。AWS负责AI与数据业务的副总裁Swami Sivasubramanian称，此类工具是吸引更多企业采用Bedrock的关键因素之一。

不过，有行业专家在接受Techcrunch采访时指出，想要彻底消除生成式AI的幻觉几乎是不可能的任务。这是因为AI模型本身并不具备真正的知识，而是基于数据分析总结出规律并作出推测。因此，模型的回应总存在一定的不确定性。

AWS的说法

虽然AWS声称“自动推理检查”依靠严密的逻辑分析和可追溯的推理流程得出结论，但公司并未公开任何数据证明该工具的实际有效性。

观点

尽管AWS发布了“自动推理检查”，但其具体成效还需更多时间检验。与此同时，微软和谷歌等大型科技公司也在积极研发同类技术，共同致力于解决AI模型的幻觉问题。