英伟达发布首款收购后芯片Groq 3 LPU,推动推理性能跃升
英伟达发布首款收购后芯片Groq 3 LPU
3月17日,英伟达正式推出其收购AI推理芯片公司Groq后的首款产品——Groq 3 LPU(语言处理单元)。该芯片是继去年12月以约200亿美元完成收购后的重要技术落地,标志着英伟达在专用推理硬件领域的深度布局。
LPX机架实现高密度推理部署
Groq 3 LPX机架可容纳256颗LPU,配备128GB片上SRAM和每秒640TB的扩展互连带宽。这一设计显著提升了模型可用内存容量,支持更大规模模型的高效运行,尤其适用于万亿参数、百万令牌上下文的复杂推理场景。
与Vera Rubin平台协同提升能效
官方数据显示,当LPX与Vera Rubin NVL72平台搭配部署时,每兆瓦推理吞吐量最高可提升35倍。这为大规模生成式人工智能应用提供了关键算力支撑,同时降低单位能耗成本,增强商业可行性。
下一代架构原型亮相,2027年将推新平台
黄仁勋还展示了代号“Kyber”的下一代机架架构原型。该设计将144颗GPU的计算托盘改为垂直排列,旨在提升物理密度并降低信号延迟。Kyber将搭载于下一代平台Vera Rubin Ultra,预计于2027年推出,进一步拓展高性能计算边界。
声明:文章不代表币圈网立场和观点,不构成本站任何投资建议。内容仅供参考!