METR 评述 Anthropic 2026 年 8 月风险报告中的自动化 R&D 章节

删节摘要：作为本次评估的一部分，Anthropic 有权对本文中任何非公开信息进行删节。根据我们的透明度方针，我们有权披露 Anthropic 是否行使了删节权，以及我们的任何发现是否在重大程度上依赖于被删节的信息。所有对我们的结论具有重要意义的删节均在下文报告中说明。

执行摘要

我们同意 Anthropic 的观点，即 7 月 15 日发布的模型带来的灾难性风险较低，但我们认为这些模型在当时很可能已经越过了其早期预警阈值。

METR 审查了 Anthropic 公开的2026 年 8 月风险报告中“自动化研发带来的风险”一节。¹ 我们开展此次审查，是作为对 AI 研发加速进行高权限评估的一部分，在此过程中 Anthropic 分享了该风险报告的私密版本以及大量其他非公开数据。在本次审查之外，我们还发布了对 Anthropic 的 AI 研发加速的整体评估。该评估由与本次风险报告审查相同的 METR 员工完成。

总体而言，我们同意 Anthropic 的观点：截至 7 月 15 日，内部部署的模型在关键领域直接自动化研发、或因能力进展加速而引发严重灾难性风险的可能性较低。然而，报告声称这些模型尚未越过其早期预警阈值，这一说法依赖于有争议的判断，且这些判断未在公开报告中清晰传达。尽管参与本项目的 METR 研究人员和 Anthropic 的相关员工都倾向于认为该阈值尚未被越过，但我们认为它很可能已经被越过，并且我们认为公开报告总体上低估了当时正在发生的加速程度。

在本次审查中，我们首先概述我们对 Anthropic 风险报告的理解，包括其威胁模型、早期预警阈值和关键主张。然后我们描述我们对这些关键主张和结论的评估。最后，我们分享本次风险报告审查过程的细节（有关过程和访问权限的更多细节可在我们的整体审查中找到）。

Anthropic 的 RSP 为“关键领域的自动化研发”设定了两个能力阈值。

根据 Anthropic 的 RSP v3.4，自动化研发阈值由以下两个条件之一触发：

1. 完全替代阈值：如果他们开发出的模型能够“以具有竞争力的成本（即在 5 倍以内）完全替代我们全部的研究科学家和研究工程师。”
2. 2 倍加速阈值：如果由于可能与 AI 研发自动化相关的原因，AI 进展速度出现“急剧加速”。² 这在 RSP 中有更详细的定义，但细节对我们的批评并不关键。

（请注意，尽管为清晰起见，我们在本报告余下部分为这些阈值起了名称，但它们在 RSP 中并没有名称。）

风险报告认为完全替代阈值尚未被越过，因为模型目前尚未替代人类。

《风险报告》认为，模型目前无法替代Anthropic的所有员工，因为尽管Anthropic有很强的动机尽可能用模型替代研究人员，但研究人员仍在Anthropic完成工作。

“我们相信，如果模型能够替代我们整个研究团队的技术工作——即使成本高昂——我们会清楚地意识到这一点；而事实上，即使受到强烈激励，我们也没有进行这种替代，这证明我们的模型尚不具备这种能力水平。”

简而言之，Anthropic努力用模型替代研究人员，但仍然需要研究人员。他们还提供了基准测试证据，但我们认为这不如上述直接观察重要，也更不确定。

《风险报告》认为2倍加速阈值尚未被跨越，因为能力指标和领先指标显示加速不到2倍，且推动加速的因素并非AI。

《风险报告》描述了三条主要证据，说明他们尚未跨越2倍加速阈值：

• 领先指标的加速有限：“我们的领先指标显示，从2025年初到年中开始出现了有意义的加速，但幅度不到2倍”
• 将这种加速归因于AI的程度有限：“我们相当确信，2025年的加速应归因于我们使用AI模型之外的因素，不过我们也相信，我们的AI模型是推动更快趋势持续到覆盖日期之后的关键因素。”
• 反对AECI持续加速的证据薄弱：Anthropic报告称，仅看到薄弱证据表明AECI出现了一次性跃升，且这归因于非AI进展，而非持续加速。

《风险报告》将2倍加速阈值描述为早期预警，而非高风险的直接证据。

8月《风险报告》对2倍加速阈值的描述如下：

“我们的RSP中设定的风险阈值——即进展速度在AI加速前水平之上翻倍，且归因于AI研发的自动化——起到潜在早期预警的作用，而非威胁已经实现的证据。”

他们没有给出表明风险已高的精确阈值，但其威胁模型描述了示例性情景：

“威胁：我们相信，AI模型在未来几年内可能具备广泛超越人类的能力。特别是，推动关键领域研发所需的大部分或全部工作——从机器人技术到能源，到网络战，再到AI研发本身——可能变得可自动化。

如果这是正确的，可能带来巨大收益，但这些收益会伴随几个不同但相关的担忧：

1. 某些技术领域的足够快速进展可能改变国家内部和国家之间的权力结构。例如，如果一个威权政权在AI领域建立起对世界其他地区的自我强化领先优势，这种领先可能累积为科学和技术上的重大优势——进而可能转化为发动战争、监视公民和/或长期掌握极强大技术能力的非常突然且破坏性的进步。
2. 如果 AI 模型在关键领域高度自动化研发的同时发展出危险的目标，它们可能会利用新颖的技术及其对这些技术的获取渠道，造成无界伤害——甚至包括人类完全失去对文明的控制。
3. 如果 AI 能够被用于自动化 AI 研发本身，其结果可能是 AI 进展的极度加速，从而带来非常广泛的一系列风险，包括但不限于本报告中所讨论的风险。”

基于这些描述以及与 Anthropic 员工的交谈，我们将“低/中/高”的总体风险定级理解为：其针对的是当时的模型直接促成上述各类灾难性担忧的风险，而非模型越过其 RSP 阈值的风险（不过我们认为这一点本可以在报告中表述得更清楚）。

Anthropic 的结论是，截至 7 月 15 日，该威胁模型带来的风险为“低”。

因此，Anthropic 得出结论认为总体风险为“低”，因为他们认为：

1. 其阈值不太可能被越过，并且
2. 即使其阈值被越过，也可能不足以造成其威胁模型中所描述的那类灾难性风险。

其总结如下：

“低。我们认为我们的模型未达到该威胁模型的任一 RSP 标准。然而，我们对这一评估的信心低于此前风险报告中的信心，因为我们最具体的基于任务的评估已经‘饱和’——即它们不再能反映模型能力的提升——并且因为我们正看到潜在加速的早期迹象。”

METR 的评估

我们认为，风险报告中关于尚未越过完全替代阈值的论证总体上具有说服力。

Anthropic 所描述的完全替代阈值是一个很高的门槛，我们同意：如果其截至 7 月 15 日的模型具备这一能力，他们很可能会注意到其研究自动化方面取得了更大的进展。

与 Anthropic 类似，我们对这一说法的信心远低于过去，因为缺乏高置信度的、未饱和的基准来证明那些对自动化 AI 研发似乎至关重要的能力局限。此类基准证据的缺乏使我们更加担心：尽管模型已经获得或非常接近获得所需能力，对齐、工具、监督或引导方面的问题仍在阻碍自动化。

我们认为，公开风险报告中关于尚未越过 2 倍加速阈值的论证被夸大了，并认为该阈值在 7 月 15 日时有可能已经被越过。

METR 和 Anthropic 的大多数相关研究人员倾向于认为该阈值在 7 月 15 日尚未被越过，但我们认为它有可能已经被越过。我们认为，公开风险报告关于 2 倍加速阈值的结论似乎过于自信，并且依赖于公开报告未清晰传达的主观判断。

特别是，我们认为公开风险报告低估了 AECI 和领先指标中加速的证据，也低估了未删节的内部报告中就反事实加速所表达的不确定性。

主张 1：领先指标中的加速有限。

我们认为，公开报告的读者会将“不到 2 倍”这一表述理解为估计值明显低于 2；因此，非公开风险报告的数字隐含 1.97 这一点令人意外。更恰当的描述似乎是“大约 2 倍”。

METR 自身对这些先行指标的分析（已从本报告中删减）发现了一系列合理的估计值，介于 1.3 与 2.8 之间。我们对于衡量这些数值的正确方法存在相当大的方法论不确定性，我们已在整体报告完整（未删减）版本中讨论了这一点。正如该报告所述，Anthropic 删减了这部分讨论。

METR 倾向的表述：

“先行指标显示出显著的加速，速率介于 1.3 与 2.8 之间，具体取决于定义和时间段。我们不确定这些先行指标与下游能力之间的关系。”

主张 2：这种加速对 AI 的归因有限。

虽然第一段确实表达了对整体加速的不确定性，但公开风险报告似乎暗示了相当高的信心，即其中只有较小一部分可归因于 AI，即使截至 7 月 15 日的覆盖日期也是如此。与此同时，非公开风险报告将截至 7 月 15 日归因于 AI 的整体反事实加速超过 2 倍描述为“合理”。

基于我们在整体报告中审查的证据，我们大体同意非公开风险报告当时对证据的评估，尽管直接估计反事实加速非常具有挑战性。

METR 倾向的表述：

“我们相当确信，2025 年发生的部分加速应归因于我们使用 AI 模型之外的因素，尽管我们也相信，我们的 AI 模型是更快的趋势持续到覆盖日期的一个日益重要的因素。

基于对研究负责人的访谈和非正式调查，我们推测，整体 AI 能力进展的速度仍略低于无 AI 辅助时的两倍。我们存在足够的不确定性，因此整体上超过 2 倍这一系数似乎是可能的。”

主张 3：反对 AECI 持续加速的弱证据。

公开风险报告称 Model 2 的得分误差棒很大，但未说明非公开风险报告中的限定条件，即 Anthropic 预计同一基础模型的后续快照会获得更高分数。事实上，Model 2 的后续快照在 AECI 上的提升幅度与 Mythos 5 相对 Mythos Preview 的提升幅度大致相同。

公开风险报告还描述了在 Mythos Preview 发布时发现支持 AECI 一次性跃升的弱证据，但我们不同意他们对这一点的强调：

• 当时，AECI 数据仅略微支持跃升，且不能排除持续加速。如果我们复用风险报告中使用的数据，估计的加速度约为 1.5 倍。风险报告发布后，Anthropic 增加了更多基准的数据，使用同一组模型估计出的加速度为 1.9 倍。
• 我们认为，仅依赖最直接为最大化能力而优化的较少数模型更简单、更有原则，并且完全无法区分这两种假设。³
• AECI 的持续加速与领先指标中观察到的持续加速更为一致。如我们的整体评估所述，我们认为公开风险报告以来的证据支持自 2025 年 10 月以来持续加速。

METR 偏好的表述：

“鉴于当前的 AECI 数据，我们无法有把握地区分能力的一次性跃升与持续加速。然而，鉴于上述领先指标的加速，持续加速似乎更为简约。”

另外两个因素使当前的 AECI 趋势难以解读：

1. 构成这一 AECI 趋势的部分模型并非仅针对能力进行优化，这使得更难解读该趋势有多少‘有效分’。
2. Model 2 尚未完成训练，因此我们预计后续快照会带来更好的表现。

未来的 AECI 测量结果可能会澄清这是一次性跃升还是持续加速。”

尽管如此，我们大体上同意，7 月 15 日可用的模型因自动化研发而带来的直接灾难性风险较低。

鉴于上述证据，我们认为 7 月 15 日可用的模型为 AI 研发进展提供了 2 倍的反事实加速是合理的，但要促成 Anthropic 上述关切情景中所描述的那类灾难性风险，很可能需要显著更大的加速。我们也不认为当时的模型能够完全自动化 AI 研发或其他关键领域的研发。因此我们同意，对于当时可用的模型而言，这些风险是“低”的。

然而，正如我们在整体评估中所描述的，我们预计 AI 对研发的增强将持续增长，并且我们不能排除在未来 6 个月内能力进展速度出现大幅进一步加速的可能性。这可能迅速导致这些领域出现“高”风险。

流程细节

关键术语。

在 METR 开始与 Anthropic 合作撰写 AI 研发加速评估后不久，Anthropic 请 METR 额外撰写一份对其 8 月风险报告的审查，METR 同意了。审查的确切范围从未正式确定，而是在合作过程中经双方协商确定。

利益冲突披露。

合同细节。

时间线。

1. 8 月 12 日：Anthropic 开始与 METR 共享机密信息。
2. 8 月 14 日：Anthropic 与 METR 共享未经删节的 8 月 AI 研发风险报告。
3. 9 月 18 日：METR 向 Anthropic 提交风险报告审查初稿以征求反馈。
4. 9 月 22 日至 10 月 28 日：METR 对风险报告审查进行迭代。
5. 10 月 28 日：Anthropic 给出风险报告的最终删节指导。
6. 10 月 29 日：Anthropic 批准删节后的报告。

其他披露。

AEF-1 检查清单。

1. 作者：Tom Cunningham、Nate Rush、Parker Whitfill 和 Hjalmar Wijk。 ↩

2. 引用 RSP v3.4 的表述，其操作化定义为：“我们认为情景 (2) 已发生，当 (a) 我们观察到或预期 AI 综合能力的进展速度是我们在 AI 对 AI 研发没有显著贡献的情况下所预期的速度以及所观察到的最快持续进展速度 [fn2] 的两倍 [fn1]，并且 (b) 这种翻倍有相当大一部分可合理归因于研究和/或工程的自动化（而非其他因素，例如人员增加、算力或一般生产力提升），以至于 AI 进展趋势的延续似乎很可能导致更大的加速。”

   [fn1]“进展速度翻倍”意味着“一年内取得的进展相当于基线情况下两年所取得的进展”。例如，如果基线进展涉及算力扩大 3 倍和算法效率提升 3 倍（即 9 倍的“有效扩展”），那么“进展速度翻倍”将意味着大约 81 倍的有效扩展。这与“研究人员生产力翻倍”不是同一概念，因为投入翻倍并不必然使进展速度翻倍。

   [fn2] 至少跨越三个模型世代。 ↩

3. 我们仅基于少数几个最直接为最大化能力而优化的模型，假设加速持续，进行了一次朴素外推。与基于所有数据点的外推相比，这次外推让我们更准确地预测了未来的 AECI 分数。 ↩