英伟达表示,7月21日,Vera CPU 在 AI 智能体负载的编排速度方面相比竞争对手 CPU 最高可快 2.2 倍,同时支持并发执行的智能体任务多 1.6 倍。DeepInfra 的测试显示,这些改进有助于处理复杂的智能体操作。DeepInfra 在其平台上每周处理约 50 万亿 个 token,其中约 30% 由智能体应用生成,这凸显了在 AI 推理流水线中对高效 CPU 调度需求日益增长。

英伟达表示,7月21日,Vera CPU 在 AI 智能体负载的编排速度方面相比竞争对手 CPU 最高可快 2.2 倍,同时支持并发执行的智能体任务多 1.6 倍。DeepInfra 的测试显示,这些改进有助于处理复杂的智能体操作。DeepInfra 在其平台上每周处理约 50 万亿 个 token,其中约 30% 由智能体应用生成,这凸显了在 AI 推理流水线中对高效 CPU 调度需求日益增长。
声明:文章不代表币圈网立场和观点,不构成本站任何投资建议。内容仅供参考!
免责声明:本站所有内容仅供用户学习和研究,不构成任何投资建议.不对任何信息而导致的任何损失负责.谨慎使用相关数据和内容,并自行承担所带来的一切风险.