图灵汇官网

在近期圆满落幕的2024年度数字中国创新大赛中，深信服的AICP算力平台荣获了两项大奖。这些奖项分别是“基于私有化大模型的推理训练一体化AI算力平台”在信创赛道荣获行业贡献奖，以及在城市赛道中荣获二等奖。

随着垂直领域内拥有私有化大模型的趋势日渐显著，然而，研发难度高、成本高昂及安全风险等问题却在一定程度上影响了大模型的实际应用效率。深信服在3月推出了AICP算力平台，旨在为各行各业的大模型开发与部署提供一站式服务。该平台具备一键配置、一键训练功能，以及模型加密保护，为用户提供了高效、经济且安全的解决方案。

AICP算力平台的核心优势在于：

• 简化配置流程：用户只需通过三步向导式的操作，就能轻松选择基础模型、数据配比及算力资源池，一键启动训练任务，无需繁琐地设置上百项参数。
• 监控与优化：平台提供实时资源监控、Checkpoint管理及Loss曲线可视等功能，帮助用户实时追踪训练状态，确保训练过程稳定高效，从而产出高质量的垂直领域大模型。
• 成本效益提升：通过模型量化技术，实现显存占用减少50%，GPU需求降低50%；创新的BAQ（业务感知量化）技术确保模型量化后仍能保持垂直领域内的业务效果；同时，优化CPU与GPU间的通信，提升系统吞吐量20%以上；采用注意力稀疏技术和推理缓存的混合精度压缩，使得推理并发用户数提升30%，系统总吞吐提升30%以上。
• 模型加密与知识产权保护：平台内置模型动态加密功能，有效保障用户知识产权不受侵犯，防止核心“模型资产”的泄露。

此外，深信服积极构建信创生态，与国内知名厂商如华为昇腾系列NPU和天数智芯全自研通用GPU等开展广泛的合作，确保在信创环境下大模型项目能够顺利进行，同时满足合规性与业务发展需求。

深信服秉持AI优先的研发战略，不断探索前沿AI技术的应用，致力于为用户提供更多智能化、个性化的AI解决方案，推动行业创新发展。