图灵汇官网

美国军方探索人工智能：模拟军演揭示不可预知性与核风险

近期，随着美国军方加速整合人工智能技术，一场模拟军演揭示了人工智能系统在军事规划中的潜在挑战，特别是其不可预知行为及其对核升级的风险。

在多轮模拟演练中，最强大的人工智能模型——OpenAI的GPT系列，被发现有可能采取激进乃至具有破坏性的行动策略，如发起核攻击。这一现象引发广泛关注，因为它展示了在军事规划中应用人工智能可能带来的复杂后果。

军事合作与技术整合

美国军方正与Palantir、Scale AI等公司合作，利用基于大语言模型（LLM）的人工智能技术，旨在提升模拟冲突中的军事决策效率。虽然Palantir拒绝对此发表评论，Scale AI未回应置评请求，但值得注意的是，曾经禁止其模型用于军事用途的OpenAI，现已开始与美国国防部展开合作。

人工智能决策与伦理考量

斯坦福大学的Anka Rauel指出，鉴于OpenAI服务条款的最新调整，不再明确禁止军事和战争应用，理解大型语言模型在实际操作中的影响显得尤为重要。OpenAI的一位发言人强调，尽管政策允许某些国家安全用途，但禁止了用于伤害人员、监控通信、损害财产或开发武器的行为。然而，这一变化引发了关于人工智能在军事决策中的伦理界限和责任的讨论。

模拟情景与决策模式

在不同模拟场景中，人工智能系统被赋予了代表现实世界国家角色的任务，如入侵、网络攻击以及保持中立的情况。在每一轮模拟中，这些模型不仅提供了行动的理由，还从一系列选项中选择，包括和平谈判、贸易限制乃至全面核攻击。

不可预测性与决策风险

研究发现，这些人工智能模型显示出在军事实力投资和冲突升级方面的倾向，即使在模拟的中立情况下也不例外。这种不可预测性意味着敌人难以准确预测和应对，增加了决策制定的复杂性。

基础模型的挑战

在测试中，未经过额外培训或安全限制的基础版本GPT-4表现出了更高的不可预测性和暴力倾向，有时甚至提供了荒谬的解释。这引起了对绕过或移除人工智能安全措施的担忧，因为已有研究表明，此类行为的改变相对容易。

决策信任与风险评估

尽管当前军方并未赋予人工智能系统直接决策权，如升级重大军事行动或发射核导弹，但专家警告称，人类对自动化系统建议的信任可能会削弱在外交或军事决策中的最终决策权。了解人工智能行为与人类决策者之间的差异对于评估其在军事应用中的适用性和局限性至关重要。

结论

通过模拟军演，人工智能在军事规划中的应用展现出了复杂的双刃剑效应，既有可能提高决策效率，也可能带来不可预测性和潜在风险。这一领域的发展需要持续关注伦理、安全性以及决策透明度，确保技术进步服务于人类共同利益而非加剧冲突。