在2024年世界人工智能大会的精彩展示中,蚂蚁集团推出了“隐语Cloud”大模型密算平台,旨在解决大模型在垂直行业应用过程中的关键难题:高质量数据供给与安全流通。这一平台的创新性解决方案,通过软硬件结合的可信隐私计算技术,实现了大模型在托管与推理阶段的数据密态流转,从而保护模型资产、数据安全和用户隐私。
当前,大模型要深入垂直产业应用,面临着高质量数据供给和安全流通的双重挑战。首先,专业数据的分散性与价值高、保密性强的特点,使得数据难以跨机构、跨企业流通。其次,企业、大模型厂商与用户之间存在的信任壁垒,增加了数据共享的难度。面对这一系列挑战,数据要素的价值未能充分释放,限制了大模型的潜力发挥。
蚂蚁密算CEO王磊在发布会现场详细介绍,“隐语Cloud”大模型密算平台提供了两大核心服务:大模型密态托管与大模型密态推理。前者允许模型提供方将加密后的模型部署在平台上,确保模型资产的安全;后者则使数据以密态形式完成推理任务,保障用户交互过程中的数据安全与商业机密。
平台支持GPU在可信执行环境下的高效计算,确保大规模商业应用中的响应速度与使用效率与明文大模型相当。通过内存、磁盘加密等手段,实现端到端加密与跨域访问控制,增强数据安全性。此外,轻量化远程认证机制简化了用户访问流程,无需额外操作步骤。
当前,许多企业在私有化部署中寻求数据安全,但这一做法不仅增加了运维成本,还影响了对外服务的效率与质量。针对行业发展的需求,隐语Cloud大模型密算平台提供公有云和专有云交付方案,支持主流通用大模型的部署。用户仅需一键操作,即可快速启动高可用推理服务,按需获取密态算力。
未来,隐语Cloud将覆盖垂直大模型全链路数据安全,提供从构建到服务的密态计算服务,实现大模型提供方、数据提供方与使用方之间的数据可信安全流转。平台还将提供密态大模型开发所需的工具,包括密态检索增强生成、密态提示词与Agent流程编排等,助力大模型能力的全面释放。
蚂蚁集团自2016年起深耕隐私计算技术,覆盖全栈可信技术、多方安全计算、联邦学习、同态加密、差分隐私与机密计算等多个技术领域。通过与产业伙伴的合作,蚂蚁集团将多年在密态计算技术上的创新成果以开源与产品化形式对外开放,旨在推动产业进步,为实体经济和中小微企业提供新价值。
随着蚂蚁集团以人工智能和数据要素为核心的技术战略推进,以及“隐语Cloud”大模型密算平台的发布,数据安全与流通的问题正逐渐找到解决之道。这一创新尝试不仅提升了大模型在垂直行业的应用潜力,也为数据价值的高效流通开辟了新路径,预示着数据驱动的智能化时代正在加速到来。