图灵汇官网

青云科技专注于AI算力调度的核心能力，通过构建开放生态系统，携手AI硬件及软件供应商、算法模型服务商、各地算力服务商以及行业应用服务商，深度整合算力、算法、行业数据与应用场景，确保AI能有效释放商业价值。

为此，青云科技AI算力发布活动邀请了生态合作伙伴分享AI应用的技术与实践经验。无问芯穹商业化副总裁李枫以《加速大模型落地的最后一公里》为题发表演讲，探讨大模型落地路径，以下是整理的演讲全文：

大模型在文本对话、图像生成等领域展现出卓越性能，标志着AI进入2.0时代。例如，微软Copilot显著提升了Office办公软件的效率，能够自动生成问题描述和日程安排。Midjourney的图像生成功能允许用户基于文字描述生成图片，并具备放大功能。

AI 2.0时代的大模型推动了巨大技术变革，其能力有望赋能各行各业。然而，我国在算法和算力层面临限制，包括先进模型调用受阻、先进芯片出口受限。国产化成为AI 2.0时代突破的关键路径。

对比国内外生态差异，国外通过统一的算力平台和CUDA软件生态支持不同算法模型，而国内存在多款大模型与多种硬件平台，导致用户难以实现高效部署。因此，算法模型与硬件平台的兼容性成为生态建设和落地的主要挑战。

为解决模型与算力瓶颈，无问芯穹致力于提供大模型软硬件一体化优化解决方案。该方案服务于多家大模型算法企业，联动国产芯片公司，实现大模型在多种硬件上的M×N一键部署平台，降低使用门槛，加速模型部署过程，成为AI 2.0时代大模型基础设施。

无问芯穹专注于解决四个关键需求，以促进AI 2.0时代大模型的广泛应用：

1. 支持长文本或大输入：优化模型以支持更高容量的输入，适用于专业长文本检索、生成和会议聊天助手等应用。
2. 提升性价比：将语言和多模态生成模型部署至消费级显卡乃至手机等终端，让广泛用户能够负担得起。
3. 垂直领域适配：利用大模型的通用能力改善各行业用户体验和效率。
4. 一键式部署：简化大模型部署流程，降低人力成本，使工厂、学校、家庭和个人都能便捷使用其功能。

期待无问芯穹能够满足客户需求，解决大模型落地的最后障碍，与青云科技共同开创AI新篇章。感谢青云科技的邀请，无问芯穹愿与您携手共创AI新时代。