英伟达发布首款收购后芯片Groq 3 LPU

3月17日,英伟达正式推出其收购AI推理芯片公司Groq后的首款产品——Groq 3 LPU(语言处理单元)。该芯片是继去年12月以约200亿美元完成收购后的重要技术落地,标志着英伟达在专用推理硬件领域的深度布局。

LPX机架实现高密度推理部署

Groq 3 LPX机架可容纳256颗LPU,配备128GB片上SRAM和每秒640TB的扩展互连带宽。这一设计显著提升了模型可用内存容量,支持更大规模模型的高效运行,尤其适用于万亿参数、百万令牌上下文的复杂推理场景。

与Vera Rubin平台协同提升能效

官方数据显示,当LPX与Vera Rubin NVL72平台搭配部署时,每兆瓦推理吞吐量最高可提升35倍。这为大规模生成式人工智能应用提供了关键算力支撑,同时降低单位能耗成本,增强商业可行性。

下一代架构原型亮相,2027年将推新平台

黄仁勋还展示了代号“Kyber”的下一代机架架构原型。该设计将144颗GPU的计算托盘改为垂直排列,旨在提升物理密度并降低信号延迟。Kyber将搭载于下一代平台Vera Rubin Ultra,预计于2027年推出,进一步拓展高性能计算边界。