METR 发布针对 Anthropic 的风险评估报告,称其模型改进速度约为 2024 至 2025 年节奏的两倍,递归自我改进已从理论进入可测量阶段。METR 用 11 周梳理 Anthropic 内部研发数据并访谈核心研究员,估计当前约 80% 的加速来自 Anthropic 自身对 AI 的使用,并排除了训练算力增长这一原因。
METR 用 11 周内部数据把递归自我改进从理论变成可测数字,并给出加速来源的归因。
METR 的最新报告揭示了大量信息。
Anthropic 的递归自我改进(RSI)已从理论走向扎实的测量,而且早期循环已经以约 2 倍的速度运行。
此前,他们花了 11 周时间梳理 Anthropic 的内部研发数据,并采访了其关键研究人员。
Anthropic 目前改进其模型的速度约为其 2024 至 2025 年节奏的两倍。
Claude 自身是主要引擎。METR 的最佳估计认为,当前约 80% 的加速来自 Anthropic 自己对 AI 的使用,并排除了训练算力增长更快这一原因。
Anthropic 自己 8 月的公开风险报告低估了事态发展的速度。METR 在一份独立审查中得出了这一结论,该审查将公开报告与私下版本及其他非公开数据进行了比较。
METR 没有看到任何可能在 12 个月内减缓这一循环的因素,算法、算力或数据方面都没有瓶颈。经删减的证据还暗示,加速可能已经超过 2 倍,并且还在继续攀升。
员工自我报告称,Model 4 带来了约 12 倍的生产力提升,研究人员也看到了 AI 独自完成关键训练工作的“生命迹象”。有人称 Mythos Preview 是首个可用于自主实验的模型。
Anthropic 删减了 METR 认为最能说明问题的大部分证据,称这些证据可能帮助竞争对手走得更快。它还中途取消了一项原定检查,该检查旨在查明其算力在能力与安全之间如何分配。
自八月以来,METR 内部的一个团队利用 Anthropic 的内部信息,评估 AI 本身是否正在加速 AI 的发展。 我们现在发布一份报告,总结这次风险评估的结果。
原文
Since August, a team within METR has worked with internal Anthropic information to assess whether AI itself is accelerating AI development. We are now publishing a report summarizing the results of this risk assessment.
来源:Rohan Paul · x.com