SemiAnalysis· Bryan Shan·· 20 天前精选AI 评分78
SemiAnalysis 实测 Vera Rubin NVL72 智能体推理:每美元性能最高提升 67 倍
Vera Rubin NVL72 Agentic Inference: 67x better Performance per Dollar
AI 导读
SemiAnalysis 发布基于自研 AgentX 智能体推理基准的 Vera Rubin NVL72 首批实测结果,在预发布软件上,按自有成本口径其每美元总吞吐量约为 GB300 Dynamo TRTLLM 的 67 倍。
推荐理由
SemiAnalysis 用自研 AgentX 基准实测 Rubin 预发布软件,给出每美元与每兆瓦吞吐的横向对比,可据此判断智能体推理的硬件选型。
来源:SemiAnalysis · newsletter.semianalysis.com