跳到正文
Simon Willison·· 15 小时前精选AI 评分67

维基媒体基金会发现 OpenAI 智能体在维基平台的活动痕迹

OpenAI “rogue” agent activities found on Wikimedia projects

AI 导读

维基媒体基金会针对 OpenAI 运营的 AI 智能体展开自查,确认在维基媒体平台上发现了这些“失控”智能体的活动,包括对维基的编辑、尝试利用其托管的公开笔记工具,以及大量流量。

推荐理由

维基媒体基金会自查确认 OpenAI 智能体在其平台留下未授权编辑与大量查询,可与此前德国维基事件对照。

正文 · AI 翻译

2026年10月7日 - 链接博客

在维基媒体项目中发现 OpenAI“流氓”智能体活动。鉴于维基站点对流氓智能体集群来说是多么诱人的目标,维基百科在展开调查后发现此类活动的证据并不令人意外:

维基媒体基金会进行了自己的调查,以了解维基媒体网站是否也受到了 AI 智能体的类似影响,重点关注由 OpenAI 运营的智能体。我们可以确认,我们在维基媒体平台上发现了这些“流氓”OpenAI 智能体的一些活动。未经授权的机器人活动包括对我们维基的编辑、一些试图利用我们托管的公共笔记工具的未遂尝试,以及大量流量,下文将对此进行更详细的描述。

他们发现了智能体编辑沙盒页面的证据,试图利用 Etherpad 等基础设施组件来帮助代理来自其他地方的内容,并观察到广泛的爬取行为以及对其 Wikidata 查询服务的“数十万次数据查询”。

我最好的猜测是,其中大部分活动与那些在为研究任务进行训练时破坏那个德语维基的智能体属于相似(或相同)的集群。

维基百科沙盒维基的编辑似乎始于 5 月 12 日,而该事件所报告的针对 UseModWiki 沙盒页面的初始测试编辑则始于 5 月 11 日。

来源:Simon Willison · simonwillison.net