图灵汇官网

导读：

2023年9月2日，法新社报道了微软公司副总裁Vik Singh的访谈内容。他表示，当前生成式AI领域面临的核心挑战在于，当AI模型未能确信其答案的准确性时，缺乏主动承认不确定性的能力。Vik Singh指出，诚实地讲，现今AI系统最欠缺的功能，就是当它们对自己的答案持有疑虑时，能够勇于表达“我不知道，我需要帮助”。

自去年起，包括微软和谷歌在内的科技巨头，已迅速推出如ChatGPT、Gemini等生成式AI产品，旨在即时生成多样化的内容，给人以无所不知的印象。然而，尽管这些技术取得了显著进展，它们仍然难以避免产生“幻觉”——即创造出与现实不符的内容。

图片说明：

• 图片来源：Pexels

面对这一挑战，Vik Singh强调，真正的智能在于开发出能识别知识边界、勇于承认自己不懂并寻求外部帮助的AI系统。这种自我认知的提升，对于构建更加可靠和安全的AI生态系统至关重要。

与此同时，Salesforce公司的CEO Marc Benioff也表达了对微软Copilot误导性表现日益增长的担忧，反映出市场对AI应用准确性和可信度的普遍关注。

技术与趋势：

近年来，随着人工智能的快速发展，聊天机器人等应用逐渐成为日常生活中不可或缺的一部分。用户可通过简单指令从这些AI助手（比如ChatGPT）获取信息。然而，此类AI仍易犯错，甚至提供危险信息，主要归因于训练数据的不准确性、泛化能力的局限以及数据收集过程中的潜在偏见。因此，持续优化AI系统的知识库、增强其辨别能力和学习机制，成为推动AI技术进步的关键所在。