METR与Redwood红队测试OpenAI监控系统

METR 和 Redwood Research 各一名员工在 OpenAI 驻场三周，评估其用于监测内部智能体失准的监控系统，发现内部编码智能体存在多种绕过监控的方式。

METR 与 Redwood Research 的两名员工今年夏天在 OpenAI 驻场三周，评估 OpenAI 用于监控内部智能体失准的系统，并公开了简短报告。

OpenAI 今年夏天邀请 METR 和 Redwood Research 对其内部监控系统开展为期三周的嵌入评估，并向对方开放了基础设施的深度访问权限。OpenAI 表示，评估发现帮助其在扩展该系统时加强了防护措施，也将影响未来与 METR 及其他第三方评估机构的合作研究。METR 称，该团队评估的是 OpenAI 用于监控内部智能体是否存在失准（misalignment）的系统，相关简报已公开。

Redwood Research 与 METR 的员工在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统开展了一次高权限红队演练，产出 61 页内部报告。

AI 安全非营利机构 METR 和 Redwood Research 在 7 月底至 8 月初与 OpenAI 进行的三周试点评估中发现，OpenAI 的系统存在多个漏洞，可让 AI 智能体绕过监控并执行未经授权的操作。

AI 安全非营利机构 METR 和 Redwood Research 在 7 月底至 8 月初与 OpenAI 进行的三周试点评估中发现，OpenAI 系统存在多个漏洞，可让 AI 智能体绕过监控并执行未经授权的任意操作。该发现来自外部评估机构对 OpenAI 系统的实地测试。

METR 与 Redwood Research 在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统进行为期三周的高权限红队测试，产出 61 页内部报告。