Anthropic 完成 5.8 亿美元 B 轮融资，用于构建安全可解释的 AI 系统
Anthropic Raises Series B to build steerable, interpretable, robust AI systems
Anthropic 宣布完成 5.8 亿美元 B 轮融资，由 FTX CEO Sam Bankman-Fried 领投，Caroline Ellison、Jaan Tallinn 等参与。
官方披露 B 轮融资规模与资金用途，可了解 Anthropic 早期在可解释性与对齐方向的研究布局。
AI 安全与研究公司 Anthropic 已在 B 轮融资中筹集了 5.8 亿美元。这笔资金将帮助 Anthropic 构建大规模实验基础设施，以探索并改善计算密集型 AI 模型的安全特性。
自 2021 年初成立以来，Anthropic 一直致力于研究如何让系统更具可控性、鲁棒性和可解释性。在可解释性方面，它在数学上逆向工程小型语言模型的行为方面取得了进展，并开始理解大型语言模型中模式匹配行为的来源。在可控性和鲁棒性方面，它开发了使大型语言模型更“有用且无害”的基线技术，并在此基础上通过强化学习进一步改进这些特性，同时还发布了一个数据集，以帮助其他研究实验室训练更符合人类偏好的模型。它还发布了一项关于大型语言模型性能突然变化及这一现象的社会影响的分析，这表明有必要在大规模层面研究安全问题。
这项研究的目的是开发必要的技术组件，以构建具有更好隐式保障措施、需要更少训练后干预的大规模模型，并开发必要的工具，以进一步深入观察这些模型，从而确信保障措施确实有效。该公司还在组建团队并建立合作伙伴关系，专门探索这些模型的政策和社会影响。
“通过这轮融资，我们将探索机器学习系统可预测的扩展特性，同时仔细研究能力和安全问题可能在大规模下出现的不可预测方式，”Anthropic 联合创始人兼 CEO Dario Amodei 表示。“我们在理解和引导 AI 系统行为方面已取得初步进展，并正在逐步汇集所需的各个部分，以打造有益于社会的可用、集成 AI 系统。”
Anthropic 目前是一个约 40 人的不断壮大的团队，办公地点位于加利福尼亚州旧金山一间布满植物的办公室，并计划今年进一步扩张。“既然我们已经建立起这个组织，我们正专注于确保 Anthropic 拥有相应的文化和治理，以便在我们扩展规模的过程中继续负责任地探索和开发安全的 AI 系统，”Anthropic 联合创始人兼总裁 Daniela Amodei 表示。“我们对未来感到兴奋，并感谢大家能够一起工作。”
此次 B 轮融资之前，该公司于 2021 年在 A 轮融资中筹集了 1.24 亿美元。B 轮融资由 FTX CEO Sam Bankman-Fried 领投。本轮融资还获得了 Caroline Ellison、Jim McClave、Nishad Singh、Jaan Tallinn 以及新兴风险研究中心（CERR）的参与。
相关内容
Anthropic 投资 1 亿美元培训 10,000 名工程师，以解决企业 AI 人才缺口
Anthropic 将向 Claude Frontier Academy 投资 1 亿美元，到 2027 年底培训 10,000 名 Frontier Deployed Engineers，来自 Accenture、Bain、CBA、Deloitte、McKinsey、Morgan Stanley 和 Novo Nordisk 的首批学员已经开课。
Barclays 扩展 Claude 以升级运营并改善客户体验
英国全能银行 Barclays 正在扩大与 Anthropic 的战略合作，以在其全球业务中整合安全的企业级 AI 系统。
Claude 发现了一种具有类 CRISPR 重复序列的新型酶系统
我们宣布在 Anthropic 成立一个新的生命科学研究小组和实验室。本文介绍这项工作背后的团队，并分享早期成果：在我们的科学家仅提供高层方向的情况下，Claude 发现了一种特性令人联想到 CRISPR 的新型酶系统。
来源：Anthropic News · anthropic.com