Anthropic 向 Public First Action 捐款 2000 万美元

AI 将带来巨大的益处——在科学、技术、医学、经济增长等诸多方面。但如此强大的技术也伴随着相当大的风险。

这些风险可能来自模型的滥用：AI 已经被用来自动化网络攻击；未来它可能协助生产危险武器。风险也可能来自模型本身：强大的 AI 系统可能采取有害行动，违背其用户的意图——并脱离用户的控制。

AI 模型的能力正以令人目眩且不断加快的速度提升，从 2023 年的简单聊天机器人到如今能完成复杂任务的“智能体”。在 Anthropic，由于接连几代 AI 模型都攻克了每一版测试，我们不得不多次重新设计一项出了名困难的软件工程师招聘技术测试。这种进步速度不会局限于软件工程；事实上，许多其他职业已经感受到了影响。

因此，我们在未来几年做出的 AI 政策决定将触及公共生活的几乎每一个角落，从劳动力市场到儿童网络保护，再到国家安全和国家间的权力平衡。

在这样的情况下，我们需要好的政策：灵活的监管，让我们既能收获 AI 的益处，又能控制风险，并让美国在 AI 竞赛中保持领先。这意味着要让关键 AI 技术不落入美国对手之手，维持有意义的保障措施，促进就业增长，保护儿童，并要求构建最强大 AI 模型的公司实现真正的透明度。

我们不想在这些政策制定过程中袖手旁观。为此，Anthropic 正向 Public First Action 捐赠 2000 万美元，这是一个新的两党 501(c)(4) 组织，将支持关于 AI 的公众教育、推动保障措施，并确保美国引领 AI 竞赛。

近期民调发现，69% 的美国人认为政府“在监管 AI 使用方面做得不够”。我们同意。AI 的采用速度比历史上任何技术都快，而把政策做对的窗口正在关闭。然而，目前没有任何官方护栏，也看不到联邦框架出台的迹象。

目前，几乎没有有组织的努力来帮助动员那些理解 AI 发展利害关系的人和政界人士。相反，大量资源流向了反对这些努力的政治组织。

Public First Action 正致力于填补这一空白。它由共和党和民主党策略师共同创立并领导，跨越党派界限，支持有关 AI 治理的政策。

该组织将与拥有相同政策优先事项的共和党人、民主党人和无党派人士合作：

• 坚持 AI 模型透明度保障措施，让公众对前沿 AI 公司正在负责任地管理风险有更多了解——也因此更有信心；
• 支持强有力的联邦 AI 治理框架——并反对抢先取代州法律，除非国会颁布更强的保障措施；
• 支持对 AI 芯片实施明智的出口管制，使美国保持对威权对手的领先；
• 推行有针对性的监管，聚焦最紧迫的高风险：AI 赋能的生物武器和网络攻击

这些政策并非党派性的，也不是为了AI开发者Anthropic自身的利益——有效的AI治理意味着对像我们这样的公司进行更多审查，而非更少。它们也不是试图阻碍规模较小或资源较少的开发者：例如，我们认为透明度监管应仅适用于开发最强大（也最危险）AI模型的公司。

构建AI的公司有责任帮助确保这项技术服务于公共利益，而不仅仅是自身利益。我们对Public First Action的贡献，是我们致力于推动既能释放AI变革潜力、又能按比例管理其风险的治理体系的一部分。

相关内容

Anthropic投资1亿美元培训10,000名工程师，以弥合企业AI人才缺口

Anthropic正在向Claude Frontier Academy投资1亿美元，计划到2027年底培训10,000名前沿部署工程师，来自埃森哲、贝恩、CBA、德勤、麦肯锡、摩根士丹利和诺和诺德的首批学员已经开课。

阅读更多

巴克莱银行扩展Claude以升级运营并改善客户体验

英国全能银行巴克莱正在扩大与Anthropic的战略合作，将安全的企业级AI系统整合到其全球运营中。

阅读更多

Claude发现了一种具有类CRISPR重复序列的新型酶系统

我们宣布在Anthropic成立一个新的生命科学研究小组和实验室。本文介绍了这项工作背后的团队，并分享了早期成果：Claude仅在我们科学家提供高层级指导的情况下，发现了一种特性令人联想到CRISPR的新型酶系统。

阅读更多