Arena.ai· @arena · X·· 6 小时前AI 评分49
AI 导读
我们发现，失准率随对话长度增加而上升：对话长度翻倍，安全失效的可能性大约也翻倍。 在消息数超过 20 条的会话中，约每 8 个就有 1 个包含未授权操作（UA）。
正文
We see that misalignment rate increases with conversation length: doubling conversation length roughly doubles the likelihood of a safety failure.
In sessions with 20+ messages, about 1 in 8 contain an Unauthorized Action (UA).
来源：Arena.ai · x.com