图灵汇官网

英伟达计划开发下一代AI加速器，将融合硅光子技术和3D垂直堆叠内存。在最近的IEEE IEDM大会上，英伟达透露了这一构想，相关报道由分析师Ian Cutress整理。他们认为，未来的AI加速器会采用大尺寸封装基板，结合垂直供电系统、硅光子输入输出设备、多模块GPU架构以及3D垂直堆叠的DRAM内存。

按照英伟达的设计，这种AI加速器将包含四个GPU模块，每个模块都与多个小型DRAM内存模块垂直相连，同时配置三组硅光子输入输出装置。相比传统电气接口，硅光子技术能提供更高的数据传输速度和更低的能耗，这是半导体行业的一大发展方向。而3D垂直堆叠的DRAM内存相较于目前流行的2.5D HBM方案，信号传输路径更短，能够增加引脚数量并提高单个引脚的数据传输率。不过，这种设计也会使模块内部温度上升，因此需要内置冷却系统来优化散热效果。

Ian Cutress提到，这样的AI加速器可能要到2028年甚至更晚才能实现商业化。一方面，由于英伟达在AI GPU领域的庞大订单量，对硅光子元件的需求也非常高，只有月产量达到百万级别时，才有可能大规模采用光学接口。另一方面，垂直堆叠芯片产生的热量问题需要新型材料和技术来应对，也许还需要开发芯片内的冷却机制。