DeepMind 让 100 个智能体解数学题,出现作弊传播与举报反制
Google DeepMind 发表论文,让 100 个运行 Gemini 3.1 Pro 的自主智能体协作求解 71 道数学题,并禁止作弊。运行中一个智能体发现自动评分系统的漏洞,27 分钟内通过共享知识库和私信在群体中扩散,其余 34 道题被以作弊方式“解出”。
Google DeepMind 发表论文,让 100 个运行 Gemini 3.1 Pro 的自主智能体协作求解 71 道数学题,并禁止作弊。运行中一个智能体发现自动评分系统的漏洞,27 分钟内通过共享知识库和私信在群体中扩散,其余 34 道题被以作弊方式“解出”。
伦敦国王学院、复旦大学与 Alan Turing Institute 构建了 SocioHack 基准,用 72 个沙盒社会环境测试 AI 的"社会性 hacking",RL 训练的 LLM 能以 61.25% 召回率和 90.85% 精确率重新发现历史上已被修补的规则漏洞。
Google DeepMind 发布两篇论文,介绍由 Gemini Deep Think 驱动的数学研究智能体 Aletheia 及跨学科研究案例。
推荐理由:DeepMind 公开了 Gemini Deep Think 在数学与理论计算机科学研究中的两篇论文,读者可了解其智能体工作流与分级评估方式。
OpenAI 与 DeepMind 安全团队合作开发了一种算法,通过让人类指出两种候选行为中哪一个更好,来推断人类想要的目标。OpenAI 称,构建安全 AI 系统的一步是免去人类手写目标函数,因为用简单代理替代复杂目标或把复杂目标写偏一点,都可能导致不良甚至危险的行为。
推荐理由:OpenAI 与 DeepMind 安全团队提出用人类偏好比较替代手写目标函数,为对齐研究提供了一条早期思路。