Google与CMU论文提出Harmony Harness

2026年10月15日，X用户Rohan Paul发布内容称，Google与卡内基梅隆大学发表新论文，提出名为Harmony Harness的智能体框架，将安全作为独立目标进行演化。该内容指出，自我改进智能体在把安全作为独立目标演化时，能更好地保持安全增益；智能体框架（模型周围的提示词、工具与循环）已能根据反馈自我重写，但多数系统只追逐单一分数（如测试通过率），所获得的安全增益在新任务上大多消失。上述说法来自该X帖子的转述，论文原文的具体方法、实验设置与结论细节尚未在现有报道中展开。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。