图灵汇官网

导读

【《环球时报》报道】在过去的半年里，以ChatGPT为代表的生成式人工智能(AI)迅速融入社会各个层面，展现了其广泛的应用前景。然而，这一技术的广泛应用不仅带来了诸多便利，同时也引发了关于安全问题的深思。生成式AI在推动社会进步的同时，因其自身的局限性，亦形成了一系列新的安全挑战，若管理不当，可能导致对人类社会产生毁灭性影响的风险。

在8月9日举办的第十一届互联网安全大会(ISC 2023)上，来自业界的顶级专家齐聚一堂，共同探讨了AI时代下数字安全的现状与挑战。本次会议的主题为“安全即服务，开启人工智能时代的数字安全新范式”，旨在探索适应复杂数字化环境的新型安全模式。

AI时代的数字安全挑战

中国工程院院士、ISC名誉主席邬贺铨在开幕式上指出，数字化战略作为推动高质量发展的关键路径，正在通过新型基础设施建设和数字技术创新，重塑数字内容的生产与消费模式。以AI为代表的技术，特别是通用AI，正通过知识与数据双轮驱动，实现智脑融合，未来单个模型有望通过迁移学习支持多样业务，并精准选择节点，从而有效降低能耗和成本。数字化进程正迈向智能化高峰，这标志着AI时代的到来。然而，邬贺铨强调，数字安全始终面临“道高一尺，魔高一丈”的挑战，随着数字化的深化，传统安全防护手段亟需升级，以应对不断演进的安全威胁。

中国互联网协会理事长尚冰进一步指出，生成式AI的普及正引发新一轮的智能化浪潮，为互联网行业注入强大动力，同时也伴随着数据泄露、虚假信息、算法歧视等新安全挑战。尤其在隐私计算、图片加密等领域，网络安全与人工智能、云计算、区块链、工业互联网等技术的融合加速。在全球网络空间成为大国博弈焦点的背景下，全面加强网络安全保障体系和能力建设成为应对新挑战的必要举措。

应对策略与创新

中央网信办网络安全协调局副局长罗锋盈认为，当前生成式AI发展中仍存在多个亟待解决的问题，包括生成信息的准确性、真实性以及价值观等多维度的考量。她强调，我国数据资源丰富，增长迅速，如何高效转化为数据优势，成为发展数字经济的关键。罗锋盈指出，数据集的质量直接影响AI模型的表现，境外开源数据可能存在质量不佳、价值观偏差或违法风险，因此，将海量数据转化为可用的高质量数据集成为当前的重要工作之一。

创新解决方案

在数字安全领域，邬江兴院士提出了AI时代数字安全的新视角。他指出，应用深度学习的AI模型存在三个内在安全问题：神经网络的黑盒特性导致不可解释性，深度学习对训练样本的依赖可能导致学习结果的不确定性，以及神经网络的前向推进不可逆性引发的结果不可推论性。这些特性构成了AI系统的内生安全问题。面对AI应用系统中交织的安全问题，邬院士呼吁采取“以彼之道，还施彼身”的策略，即开发小规模AI模型专门用于识别和过滤潜在威胁。

360集团创始人周鸿提出，AI时代安全问题比预期更为复杂，尤其是生成式AI带来的内容安全问题尤为显著。周鸿举例说明了AI模型中存在的“老祖母漏洞”现象，即AI在特定情境下被诱导提供错误信息。为应对这一挑战，周鸿建议采用专门设计的小规模AI模型，通过智能识别或内容分类审查，有效监控和过滤生成式AI产生的内容，以此解决内容安全问题。

面向未来的安全创新

在ISC 2023开幕式上，美国Palo Alto Networks（派拓网络）高级副总裁Howie Xu强调了在AI时代重塑安全的重要性。他指出，随着网络威胁的不断升级，有组织的网络犯罪和高级持续威胁已成为主要威胁。传统的安全防护手段在战略规划上存在不足，难以应对持续变化的安全形势。因此，必须采用数字化思维，构建体系化、实战化、智能化的数字安全能力，以应对未来的网络攻击。

结论

综上所述，AI时代下的数字安全面临着前所未有的挑战与机遇。从提升数据资源利用效率到开发创新安全策略，再到构建智能安全体系，各界专家与企业正积极探索适应复杂数字化环境的解决方案，以确保在享受AI技术带来的便利的同时，有效应对并化解安全风险，为人类社会的可持续发展保驾护航。