赞!东劢获评最佳客户满意度器械CDMO TOP5

图灵汇官网

数字经济时代下的算力革命与神州鲲泰的创新实践

在当今的数字经济时代,算力资源被视为推动人工智能、云计算等科技前沿发展的关键“动力源”。5月9日,数云原力大会2024在神州数码国际创新中心拉开帷幕,聚焦于算力的高效利用与技术创新。会上,神州数码副总裁、神州数码信创控股董事长韩智敏宣布了新一代神州鲲泰绿色异构智算中心全液冷整机柜新品的发布,旨在通过软硬件协同创新,提供性能强大、能效高且环保节能的选择。

面对效率与成本的挑战:异构智算时代的智算架构探索

步入异构智算时代,多云异构智算基础设施已成为行业趋势。如何在复杂的混合云部署中有效利用多样的算力资源,应对构建、部署和运维的复杂性与难度,成为了亟待解决的问题。在这个背景下,“智算攒机时代”呼唤着更为灵活高效的智算架构设计。

随着大模型和生成式AI的加速落地,模型训练与推理任务激增,不仅激发了对底层算力的巨大需求,同时也对资源利用效率提出了严峻考验。据研究显示,OpenAI在训练GPT-4时的模型浮点运算单位(Model Flops Utility,MFU)效率在32%-36%之间,而当前行业的平均MFU利用率仅为30%-40%。这表明,提升算力资源的利用效率仍有巨大潜力,且这一提升将为企业的成本节约带来显著效益。

能耗挑战与解决方案:神州鲲泰的“双管齐下”

面对算力作为主要能耗来源的挑战,神州鲲泰提出了一套综合性的解决方案,旨在通过提升算力资源的利用率和降低能耗,实现经济效益与环境责任的双赢。

HISO异构智算调度运营平台

依托云原生技术,HISO异构智算调度运营平台整合了GPU硬分片和虚拟分片技术,实现了GPU资源的虚拟化或池化,有效解决了跨集群间的算力调度问题。通过精准匹配用户业务需求与异构智算资源池,该平台显著提升了GPU服务器集群的资源使用效率。其关键能力包括混合组网、混搭调度、算力精细隔离等,使用户能够如同管理一台GPU主机般,灵活调配多个集群的GPU资源,同时加速模型加载过程,相比传统方式提升3倍效率,并能实时监控和诊断软硬件故障,实现全面的算力观测。

HICA异构智算加速平台

专注于集群内部算力调度优化,HICA异构智算加速平台通过屏蔽底层算力生态差异,有效突破计算效率瓶颈,大幅提升了算力利用率与可用性。该平台采用数据并行、模型并行等策略,将并行计算任务分解并匹配合适的软件栈与算力资源,实现计算子任务的实时动态调度与模型拓扑架构的调整,最大化聚合各种算力资源。

硅光+液冷:一体化交付的冷却解决方案

针对智算中心节点的高能耗问题,神州鲲泰引入了硅光技术,通过降低调制器电压等手段,有效减少了25%的互联能耗。同时,采用液冷服务器,通过一体化冷板、智能流量调节等措施,提升了系统的散热效率,降低了30%的节点能耗。

KunTai Pod2000全液冷整机柜的发布

为简化部署与运维复杂度,神州鲲泰推出了KunTai Pod2000全液冷整机柜方案,采用一体化交付模式,不仅大幅降低了部署周期,还实现了100%全液冷及高性价比液冷方案,助力数据中心的能源使用效率(PUE)降至1.15,最大单柜功率可达60KW+,能效比较行业平均水平高出1.5倍,为客户提供高性能、低成本、低能耗的智算中心解决方案。

结语:神州鲲泰引领的智算架构新纪元

随着ChatGPT等AI技术的兴起,AI正成为驱动创新的核心力量,IT基础架构进入了一个由模型与算力相互促进、共同发展的新时代。神州鲲泰通过构建高通量、高并行、高效率、低能耗的多样化智算架构,提出了新的智算路径,旨在实现快速部署、低投入,有效突破算力瓶颈,构建性能卓越、成本优化、能效高的智算中心。未来,每个智算中心和计算机都将融入这种新的智算架构,实现算力的普惠,推动数字经济的可持续发展。

本文来源: 图灵汇 文章作者: 郑沛