导览:
8月15日,在讯飞星火认知大模型V2.0升级发布会的现场,科大讯飞携手华为共同推出了星火一体机。这款产品是中国自主研发的软硬件一体化解决方案,专为企业打造私有专属大模型。用户开箱即用,能获得从基础算力、AI框架、训练算法、推理能力到应用成果的全面AI支持,助力企业构建专属大模型。
星火一体机集训练与推理于一体,适用于问答、对话生成、知识图谱构建、智能推荐等应用场景,拥有大模型预训练、多模态理解和生成、多任务学习及迁移的能力。当前,该一体机涵盖了办公、代码、运维、客服、营销、采购等10多个场景包,支持对话开发、任务编排、插件执行、知识接入、提示工程等5种定制优化模式,持续拓展更多专业场景和优化模式,以快速满足企业的个性化需求。
为了优化成本,星火一体机特别针对讯飞星火认知大模型的训练算法和推理应用进行了硬件定制,使得企业使用更加经济高效。
科大讯飞董事长刘庆峰指出,大模型在企业深度应用的关键在于三个要素:一是安全性与可控性,确保内容健康、平台自主可控;二是场景驱动,创造实际价值并通过数据验证成效;三是专属定制,基于企业特定数据构建私有化大模型,以提升应用效果。
面对国家政策的引导与支持,如2023年4月中共中央政治局会议强调的“重视通用人工智能发展”与7月七部委发布的《生成式人工智能服务管理暂行办法》中强调的“发展与安全并重”,星火一体机通过一系列安全措施保障内容质量。针对污语料和幻觉问题,星火一体机采用了立体化的内容安全机制,包括语句判别、质量评估、隐私保护、安全检测等步骤,以确保输出文本的纯净度。为解决幻觉问题,科大讯飞构建了专业知识库,利用类搜索插件技术获取知识,借助大模型的归纳和总结能力提供答案。
在算力安全方面,星火一体机依托腾AI硬件与思AI开源框架,提供了业界领先的训练和推理能力,为大模型的创新提供了坚实的基础。
自主创新的算力底座成就大未来
在大模型的研发过程中,支撑千亿参数规模的大模型并行训练的算力与框架至关重要。基于此,系统架构和并行训练集群能力成为了国内大模型研发的关键所在。
在7月6日,科大讯飞宣布与腾AI合作,共同构建基于中国自主创新的通用智能新底座。讯飞星火认知大模型凭借其训练推理一体化的设计,实现了大模型的稀疏化与低精度量化,有效提升了与腾AI的兼容性,加速了大模型在行业中的落地与迭代。同时,腾AI作为核心,通过软硬件协同优化,构建了一个集约、高性能、稳定供给、数据安全的大模型训练集群。
此次推出的星火一体机,标志着科大讯飞与华为在AI算力与大模型领域的合作成果,旨在为行业和企业提供基于专属数据的自主可控私有化大模型,推动重点企业的数字化转型。唯有基于中国自主创新的算力底座,大模型才能实现长远发展。未来,双方将继续深化合作,面向全球市场,联合攻克算力国产化的核心挑战,从单点算力到集群算力、从局部创新到系统创新,共同推动大模型技术的全面进步。