我们已将 DeepSeek V4.1 Flash 加入 AA-AgentPerf，并附上 NVIDIA 和 AMD 硬件的测试结果。在每用户 100 tokens/s 下，NVIDIA GB300 位居第一，每兆瓦吞吐量最高可达 261M tokens/s。

AA-AgentPerf 是我们的智能体推理性能基准测试。它回放真实的智能体编码会话，包括提示缓存和工具调用延迟，以真实衡量日常智能体工作负载中的推理性能。我们测量每兆瓦运行时功耗的总系统吞吐量，以及在不同并发水平下每个智能体的输出速度，以展示系统利用率与单个用户体验之间的权衡。

DeepSeek V4.1 Flash 今日加入排行榜。它使排行榜上的特色模型达到四个，与 DeepSeek V4 Pro 0813、Kimi K3 和 GLM-5.2/5.3 一同上榜。随着热门的新开放权重模型发布，我们会不断更新特色模型，并将在未来重大发布时提供第 0 天结果。

DeepSeek v4.1 Flash 背景信息：

➤ 它在 Artificial Analysis Intelligence Index 上得分为 39，领先于 DeepSeek 早前的 V4 Pro 0813 的 36 分，而参数量约为其三分之一（552B“骨干”和 16B 激活，对比 1.6T 和 49B）

➤ 它基于一种新架构构建，采用因果编码器-解码器设计，每个输入 token 激活 8B 参数，每个输出 token 激活 16B 参数。它另外使用 196B 参数的 Engram n-gram 记忆，这些记忆可以放在主机内存而非加速器上，并采用压缩稀疏注意力，每个 token 所需的 KV 缓存仅为更早的 V4 Flash 模型的约四分之一

➤ 这使其服务效率高得多，因为权重可以放在更少的 GPU 上，而更小的 KV 缓存为每块 GPU 上更多并发智能体留出了空间

DeepSeek V4.1 Flash 的初步 AA-AgentPerf 结果：

➤ V4.1 Flash 最少可在 2 块 GPU 上运行，因此机架级系统相比 B300 等 8-GPU 单节点优势更小，后者在整个曲线上与机架级 GB300 NVL72 的差距保持在约 20% 以内，并在两端领先

➤ 在每用户 100 tok/s 下，GB300 以约 261M tokens/s 每兆瓦领先，高于 B300（约 220M）、B200（约 193M）、GB200（约 178M）和 MI355X（约 128M）

➤ 每个 Blackwell 系统和 MI355X 都能为单个智能体达到约 600 至 670 tok/s 的输出速度（即批大小为 1 时），而 H100 和 H200 上为 372 至 392 tok/s

➤ V4.1 Flash 不仅比 V4 Pro 0813 更智能，而且服务成本低得多，在每用户 100 tok/s 下，相比其更大的同门模型，每兆瓦吞吐量约为其 1.3 倍（GB300）至 6.2 倍（B200）