跳到正文
SemiAnalysis· Bryan Shan·· 20 天前精选AI 评分78

SemiAnalysis 实测 Vera Rubin NVL72 智能体推理:每美元性能最高提升 67 倍

Vera Rubin NVL72 Agentic Inference: 67x better Performance per Dollar

AI 导读

SemiAnalysis 发布基于自研 AgentX 智能体推理基准的 Vera Rubin NVL72 首批实测结果,在预发布软件上,按自有成本口径其每美元总吞吐量约为 GB300 Dynamo TRTLLM 的 67 倍。

推荐理由

SemiAnalysis 用自研 AgentX 基准实测 Rubin 预发布软件,给出每美元与每兆瓦吞吐的横向对比,可据此判断智能体推理的硬件选型。

来源:SemiAnalysis · newsletter.semianalysis.com