宣布下一版 Artificial Analysis API 性能基准测试：每任务耗时（Time per Task）现已成为我们的首要性能指标，衡量的是模型完成任务所需的时间，而非其流式输出的速度

此次更新适用于我们每天多次针对速度、延迟和缓存进行基准测试的约 1,000 个无服务器端点。

主要变化：
➤ 每任务耗时现已成为比较模型的首要指标：随着工作负载愈发具有智能体特性，完成任务所需的时间比每 token 的速度更为重要。一个每 token 速度快但输出冗长的模型，可能比一个速度较慢但使用更少 token 的模型耗时更长。每任务耗时通过将模型在 Intelligence Index 任务中的输出 token 数除以其端到端输出速度得出。

➤ 端到端输出速度涵盖整个请求：速度现在从发送请求到接收最终 token 进行衡量。这包括首个 token 之前的等待（预填充，以及隐藏推理过程的模型的推理）以及生成过程。输出 token 数现在来自各提供商 API 报告的计数，而非 o200k_base 分词器，我们会监控报告计数中的差异。

➤ 智能体工作负载现已纳入每次测量：我们对短提示、文档长度提示和长上下文提示进行基准测试，还包括跨编码和知识工作的多轮会话。首要数据是过去 5 天内这些工作负载的平均值。

➤ API 默认努力程度现与最高努力程度一同追踪：大多数开发者以各实验室设为 API 默认的努力程度运行模型，因此我们现在也在该设置下以及最高努力程度下对关键模型进行基准测试。努力程度的名称在各实验室之间不可比较，因此我们使用各实验室自己的默认值，而非一个共享设置。

主要结论：
➤ 尽管输出速度较慢，OpenAI 模型仍占据 Intelligence 与每任务耗时帕累托前沿的大部分：在各努力程度下，GPT-6 Astra 和 GPT-6.1 Sol 在 Intelligence Index 上以约 45 至约 55 的区间守住前沿。在最高努力程度下，GPT-6 Astra 以 51 tokens/s 运行，但完成任务约需 17 分钟，而 Claude Opus 5.5（最高，111 tokens/s）约需 26 分钟，Gemini 4 Carbon（高，71 tokens/s）约需 29 分钟，因为其每任务使用约 5 万输出 token，而后者为约 12 万至约 17 万。

➤ API 默认努力程度使 GPT-6 Astra、GPT-6.1 Sol 和 Claude Opus 5.5 的每任务耗时降低约 3 至 5 倍，每任务成本降低约 2 至 4 倍：三者均默认为中等努力程度，代价是在 Intelligence Index 上得分低约 5 至 11 分。Claude Opus 5.5 从最高努力程度下的约 26 分钟和每任务 10.04 美元降至中等努力程度下的约 6.8 分钟和 2.45 美元。

➤ 仅针对解码速度优化的端点，其端到端输出速度下降最大：高解码速度可能以延迟为代价，例如通过将请求排队以较低批大小运行，或暂存输出并一次性突发发送。两者都会延长首个 token 之前的等待时间，而端到端输出速度现在会计入这一等待。