Redwood Research Blog· Gosha Kozhevnikov·· 3 小时前精选AI 评分61
Redwood 发布 Screwtape：用对抗性轨迹编辑红队测试监控器
Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming
AI 导读
Redwood Research 提出 Screwtape，一条把真实智能体轨迹改写成攻击并反复迭代、直到只观察动作的监控器不再识别的流水线，攻击者与验证器、监控器循环交互。
推荐理由
Redwood 公开了一套通过编辑真实智能体轨迹来迭代绕过监控器的流水线，并给出 252 次运行中 6 次成功绕过前沿监控器的实测数据。
来源：Redwood Research Blog · blog.redwoodresearch.org