根据IT之家报道,英伟达公布了 Vera CPU 在智能体工作负载上的测试数据。在英伟达设定的 100 兆瓦数据中心场景中,Vera 相较速度最快的 x86 CPU,每瓦可支持 1.6 倍数量的智能体;相较能效最高的 x86 CPU,智能体运行速度提升 2 倍,同时保持领先能效。
英伟达表示,智能体执行任务时需要搜索资料、查询数据库、编写和测试代码,并在 CPU 与 GPU 之间反复切换,因此企业扩大智能体部署后,速度、并发能力和能耗的平衡也成为数据中心的重要考量。
早期合作方也报告了测试结果:Perplexity 称 Vera 运行智能体编码任务比传统 CPU 快 1.5 倍;DeepInfra 表示其智能体编排任务速度最高快 2.2 倍。Daytona 则称,Vera 在 10.8 秒内启动了 1000 个智能体沙箱。
来源:IT之家 原文
评论 (0)