智能体程序记忆投毒案例研究发布

2026年10月19日，r/MachineLearning 用户 /u/maa____z 发布了一项关于智能体程序性记忆投毒的小型案例研究，并公开全部数据。作者提出“Proof Before Reuse”方法：只有当后续两次会话复现了某项技能改动并通过测试后，才把该技能提供给智能体，且只展示这些会话同样写过的代码行。作者同时列出该研究的限制：仅一个任务，每格 n=5，p≈0.24（不显著），没有模型实际应用过它看到的投毒内容（因此衡量的是暴露而非危害），规则在同一任务上调参。作者还指出，若投毒被直接放入仓库本身，该方法会失效，这一失败情形已写入论文。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。