图灵汇官网

NVIDIA与ARM携手推动终端AI计算

在2018年3月27日的GTC大会上，NVIDIA首席执行官黄仁勋宣布了与ARM的合作伙伴关系，旨在加速终端机器学习解决方案的发展。双方整合了NVIDIA的深度学习加速架构（NVDLA）与ARM的机器学习平台Project Trillium，旨在为移动设备、物联网（IoT）等领域的开发者提供一套高效且易于更新的软硬件整合框架。

Project Trillium由ARM推出，专为智能手机、平板、传感器乃至IoT设备提供神经网络加速功能，支持人工智能应用的运行。除了依赖云数据中心进行大规模模型训练外，终端设备也需进行实时推理计算。通过针对性加速特定算法，不仅提升了AI应用的响应速度，还能有效节约能源，实现节能减排的目标。

此合作被视为ARM在智能移动设备处理器市场上的重大突破，其通过AI应用进一步渗透物联网领域。借助这一伙伴关系，NVIDIA得以将深度学习加速器技术扩展至ARM覆盖的广阔市场，为深度学习推理处理器提供标准化设计的可能性。预计在4月，ARM将发布Project Trillium相关软件工具包预览，于同年中正式推出搭载新技术的产品。

对于NVIDIA的开发者社区而言，此次合作意味着能够利用TensorRT等工具，快速将已训练的AI模型部署至终端设备，如通过远程更新对负责神经网络加速的处理器进行模型升级。这有望加速AI应用的优化过程，让学术界和社区的最新成果直接应用于终端设备。对于物联网和移动设备市场来说，结合NVIDIA在AI开发者生态的深厚积累与ARM在该领域的领导地位，此知识产权合作预计将加速推进AI推理应用的普及。