图灵汇官网

12月21日，第七届云安全联盟大中华区大会在深圳召开，主题聚焦于“云融未来，安全内在”。百度副总裁陈洋在会上围绕“安全大模型”和“大模型安全”做了主题发言。他提到，大模型不仅促进了产业升级和经济发展，也为网络安全行业带来了全新机会与挑战。借助这一技术，智能人机协作能够重新设计安全业务流程，让其成为高效的生产工具。

人工智能是推动科技进步和产业升级的重要动力，而大模型的诞生进一步扩展了AI的应用场景。自今年3月百度推出文心一言以来，这款知识增强型大语言模型已更新至4.0版本，各项能力显著增强，尤其是在理解和生成方面表现突出。陈洋介绍了文心大模型在安全领域的实际运用，包括安全运维、内容审查、隐私合规检测以及风控管理等案例，展现了AI技术如何提升安全工作的效率。

同时，他指出提升行业AI原生安全应用的研发效率至关重要。依托百度强大的AI大模型平台，百度安全打造了AI安全基础架构，通过强化安全知识与技能，采用低代码方式实现人机协作的安全工作流，从而让多种安全应用实现AI原生改造。此外，大模型本身的可靠性、可信度和可控性同样关键。网络与系统安全、算法安全、数据保护以及内容安全贯穿了大模型的整个生命周期，体系化安全和内生安全将是长期需要解决的问题。

作为人工智能领域的领军者，百度高度重视大模型潜在的安全隐患。凭借多年积累的经验，百度安全从全生命周期角度制定了涵盖训练、优化、推理、部署到业务运营等环节的全面安全方案。这些措施覆盖了数据隐私保护、模型防护、内容安全及业务风控等多个方面。此外，百度还建设了以攻防为核心的AIGC内容安全评估能力，定期对大模型进行安全检测，协助企业建立稳定可靠的服务。

在大模型的实际运营中，百度安全推出了多项安全服务，如红线知识库、红线大模型、提示词审核与调整、多模态内容审核以及安全评估等。对于违法或不良信息，百度安全提供了红线知识库和红线大模型，用于生成安全回复并引导用户关注正面内容。针对提示词攻击，百度安全能通过调整提示词确保输出内容的安全性。

作为云安全联盟CSA的成员，百度始终致力于通过更安全的AI技术促进行业发展，积极参与智能云计算的技术创新。会上，陈洋代表北京人工智能产业联盟人工智能安全专委会与CSA签署了战略合作协议。未来，双方将携手开展联合研究，共同推进人工智能前沿技术和应用的进步。

面对“大模型+安全”带来的新趋势、新机遇和新挑战，百度安全将持续探索AI技术在网络安全中的创新应用，并与各界紧密合作，共建大模型安全屏障，挖掘其在各行业的潜力。