图灵汇官网

导读：

9月11日最新报道：蚂蚁集团推出了大模型安全综合解决方案——“蚁天鉴”。此方案整合了“蚁鉴2.0”和“天鉴”两大产品，具备AIGC安全性评估与真实性检测、智能化风险管控、AI稳健性与可解释性检验等关键功能。这是大模型时代首个具备产业级应用潜力的大模型安全检测与防御一体化方案，目前这两款产品已经向公众开放。

主要内容概览：

• 安全挑战解析：蚂蚁团队指出，大模型安全问题主要源自于数据污染、推理失控及外部恶意操控三大核心因素。
• 蚁天鉴的使命：通过提升大模型安全性评价指标、引入智能风险管理、实施数据净化与校准策略，确保模型在实际应用中的稳定、可控与可靠。
• 蚁鉴2.0：全数据类型AI安全守护者：作为业内首个多类型AI安全检测平台，蚁鉴2.0运用智能攻击模拟技术，全天候地生成诱导性测试，对生成式大模型进行深度剖析，及时发现潜在安全漏洞。
• AI真伪鉴别：蚁鉴2.0新增对AI生成图片、视频等多媒体内容的真假辨别与安全检查功能，利用庞大的伪造样本库，迅速识别内容的真实来源及潜在风险。
• 天鉴：大模型外围安全防护：天鉴平台作为大模型的保护层，采用智能化风险防范技术，拦截恶意提问，过滤有害回答，全方位保障模型输出的安全性。
• 全面风险控制：天鉴平台结合“问答”环节的特点，构建了一套风险隔离与管理方案，实现了从用户意图理解到风险决策的全流程服务，确保输出内容既符合伦理规范，又能满足用户体验需求。
• 低成本规模化应用：依托大数据平台、AI计算系统、智能运营与多样化应用场景，天鉴平台能够实现经济高效、快速部署，适用于零售、金融、直播、游戏等各类生成型AI服务领域。
• 数据源头治理：在训练和使用大模型的过程中，蚂蚁集团还通过数据净化、模型校准以及增强模型解释性等措施，强化模型的安全性。

结语：

蚂蚁集团通过“蚁天鉴”解决方案，旨在全面应对大模型时代面临的多重安全挑战，确保AI技术在各行业中的健康发展与广泛应用。这一创新举措不仅体现了蚂蚁集团在人工智能领域的技术实力，也为整个行业树立了安全标杆。