Redwood Research Blog· Jeffrey Olmo·· 3 小时前精选AI 评分64
Redwood Research 发布模拟控制评估(SCE)论文
Simulated Control Evaluations
AI 导读
Redwood Research 发布关于模拟控制评估(SCE)的论文,该方法让攻击模型在真实代码库的对话记录基础上继续执行有害目标,但工具调用不实际执行,改由 LLM 模拟器生成工具输出、由 LLM 判官判断攻击是否成功。
推荐理由
Redwood 用 LinuxArena 的真实执行结果对照模拟环境,给出了模拟控制评估在安全指标上的误差量级,可作为判断该方法能否替代现有控制设置的参考。
来源:Redwood Research Blog · blog.redwoodresearch.org