Anthropic 宣布支持加州 AI 监管法案 SB 53

Anthropic 支持 SB 53，这是加利福尼亚州的一项法案，旨在规范由 Anthropic 等前沿 AI 开发者构建的强大 AI 系统。我们长期以来一直倡导深思熟虑的 AI 监管，我们对这项法案的支持是在仔细考虑了加州此前 AI 监管尝试（SB 1047）的经验教训之后做出的。尽管我们认为前沿 AI 安全最好在联邦层面解决，而不是各州法规各自为政，但强大的 AI 进展不会等待华盛顿达成共识。

纽森州长组建了加州联合政策工作组——一个由学者和行业专家组成的团体——就 AI 治理提供建议。该工作组支持“信任但验证”的方针，而参议员斯科特·维纳的 SB 53 通过披露要求而非去年那些努力中饱受诟病的指令性技术强制要求来落实这一原则。

SB 53 实现了什么

SB 53 将要求开发最强大 AI 系统的大型公司：

制定并发布安全框架，说明其如何管理、评估和缓解灾难性风险——这些风险可预见地且实质性地可能导致大规模伤亡事件或重大金钱损失。
发布公开透明度报告，概述其灾难性风险评估以及在部署强大的新模型之前为履行各自框架所采取的步骤。
在 15 天内向州政府报告重大安全事件，甚至以保密方式披露对内部部署模型使用可能带来灾难性风险的任何评估摘要。
提供明确的举报人保护，涵盖违反这些要求的行为，以及灾难性风险对公共健康/安全造成的具体且重大的危险。
对其框架中所作承诺公开负责，否则将面临金钱处罚。

这些要求将把 Anthropic 和许多其他前沿 AI 公司已经遵循的做法正式化。在 Anthropic，我们发布负责任扩展政策，详细说明随着模型能力增强，我们如何评估和缓解风险。我们发布全面的系统卡，记录模型的能力和局限性。其他前沿实验室（Google DeepMind、OpenAI、Microsoft）也采用了类似做法，同时在前沿领域激烈竞争。现在，所有受涵盖的模型都将在法律上被要求达到这一标准。该法案还恰当地将重点放在开发最强大 AI 系统的大型公司上，同时为初创公司和规模较小的公司提供豁免，这些公司不太可能开发强大的模型，不应承担不必要的监管负担。

SB 53 的透明度要求将对前沿 AI 安全产生重要影响。如果没有它，拥有日益强大模型的实验室可能面临越来越大的激励，为了竞争而削减自身的安全和披露计划。但有了 SB 53，开发者可以在竞争的同时确保对构成公共安全风险的 AI 能力保持透明，从而创造一个公平的竞争环境，使披露成为强制要求，而非可选项。

展望未来

SB 53 提供了坚实的监管基础，但我们能够也应当从以下几个方面在此基础上继续推进，我们期待与政策制定者合作实现这一目标：

该法案目前根据训练 AI 系统所使用的计算量（FLOPS）来决定监管哪些系统。当前的门槛（10^26 FLOPS）是一个可接受的起点，但始终存在一些强大的模型可能未被覆盖的风险。
同样，开发者应被要求更详细地说明他们所开展的测试、评估和缓解措施。当我们分享我们的安全研究、记录我们的红队测试并解释我们的部署决策时——正如我们与行业参与者通过前沿模型论坛所做的那样——这只会加强而非削弱我们的工作。
最后，监管需要随着 AI 技术的进步而演进。监管机构应有能力按需更新规则，以跟上新的发展，并在安全与创新之间保持恰当的平衡。

我们赞赏 Wiener 参议员和 Newsom 州长在负责任 AI 治理方面的领导力。问题不在于我们是否需要 AI 治理——而在于我们是要在今天深思熟虑地发展它，还是在明天被动应对。SB 53 为前者提供了一条坚实的路径。我们鼓励加利福尼亚州通过该法案，并期待与华盛顿及世界各地的政策制定者合作，制定既能保护公共利益又能保持美国 AI 领导地位的全面方案。

Anthropic 宣布支持加州 AI 监管法案 SB 53

相关内容

Anthropic 投资 1 亿美元培训 10,000 名工程师，以弥合企业 AI 人才缺口

Barclays 扩展 Claude 应用以升级运营并改善客户体验

Claude 发现一种具有类 CRISPR 重复序列的新型酶系统