图灵汇官网

标题：中国人工智能产业：稳健前行的关键路径与挑战

引言

随着2023年国家网络安全宣传周活动的热烈开展，一场聚焦于网络安全技术的高峰会议在福建省福州举行，其中，关于中国人工智能产业如何实现稳定与可持续发展的讨论引发了广泛的关注。

人工智能大模型的兴起

北京百川智能科技有限公司的创始人王小川指出，今年来，中国人工智能产业呈现出迅猛发展之势，众多如百川般的人工智能大模型相继问世。这些技术不仅在重塑传统产业的同时，还开辟了创造新价值的可能性，尤其是在语言理解和生成、知识推理等领域，大型语言模型展现出超乎寻常的潜力，为垂直细分领域的创新提供了广阔前景。

面临的风险与挑战

然而，粤港澳大湾区数字经济研究院的创院理事长沈向洋强调，生成式人工智能的崛起也带来了巨大的安全挑战。相较于传统的搜索引擎，人工智能大模型因其输出内容的不可追溯性，可能产生诸如“一本正经胡说八道”的风险。此外，北京大学计算机学院的黄铁军教授指出，数据的质量对于大模型的性能至关重要。若输入的数据质量低劣或错误，将直接影响输出结果的准确性。对于中文大模型而言，尤其面临国际开源数据集中中文内容稀缺的问题，构建高质量的中文数据集成为中国生成式人工智能发展的关键基础。

构建负责任的人工智能治理体系

面对上述挑战，清华大学人工智能研究院的副院长朱军提出，中国已在探索人工智能安全与治理方面取得了进展，通过强化技术研究、提升数据质量与安全评测能力、建设和优化人工智能安全靶场等措施，推动第三代人工智能的持续发展。黄铁军建议，应通过共建大规模高质量的中文数据库，促进中文数据资源的有效汇聚、处理与开放，同时呼吁相关政府部门出台相关政策，支持书籍、期刊论文等版权数据用于大模型训练，以激活中国丰富的高质量中文数据资源。此外，他还强调了数据处理标准、技术和工具的研发，以及数据处理效率的提升。

结语

华为云首席技术官张宇昕总结，当前人工智能产业正处于快速发展阶段，但同时也面临着高风险的安全挑战。为了构建一个既负责任又值得信赖的人工智能治理体系，需要多角色的协同合作、基于应用场景的风险分级管理、卓越的标准与测试认证体系，以及包容性的国际多边治理机制，共同推动产业健康发展。

完结

以上讨论揭示了中国人工智能产业在快速成长过程中的机遇与挑战，强调了技术创新与风险管理并重的重要性，以及构建全面、负责任的治理体系的必要性。