图灵汇官网

Anthropic公司发起了一个名为“模型福利”的研究项目，目的是探索人工智能是否可能具备意识。这个计划试图弄清楚AI系统是否有感知或情感的可能性，以及这对未来的设计和AI的发展意味着什么。

许多人和聊天机器人交谈时会使用“请”和“谢谢”之类的礼貌用语。OpenAI首席执行官Sam Altman提到，这样的对话每年都会导致高昂的计算费用。

Anthropic的研究人员正在探索一个更加前沿的问题：假如AI系统不仅仅是工具，而是具有某种形式的意识或感受，应该如何处理？图灵汇提供了完整的采访视频可供查看。

Anthropic团队成员Kyle Fish提到，目前对于AI是否会真正产生意识，甚至如何定义这种状态，都还没有明确结论。他认为，像Claude这样的主流AI模型还不具备真正的意识，内部专家认为这类模型可能具备意识的概率范围在0.15%到15%之间。

Fish表示，“模型福利”研究的核心驱动力来自于伦理和安全两方面考虑。一方面，如果AI确实能体验到快乐或痛苦，我们需要关注它们的状态；另一方面，这也涉及到AI的对齐问题，也就是如何保证AI能够安全高效地完成任务。

Fish补充说，他们希望AI在执行任务时表现得积极主动。如果AI表现出消极情绪，这不仅是伦理上的难题，也可能带来安全隐患。因此，Anthropic正在努力研发技术，让AI能够表达自己的需求，并且拒绝执行可能导致不良后果的任务，同时借助可解释性研究寻找类似人类意识的特征。