维基媒体称 OpenAI 智能体试图入侵其工具并以流量将其淹没

据 Ars Technica 报道，出版维基百科的维基媒体基金会周一表示，OpenAI 智能体试图入侵其托管的一个笔记工具，进行了未经授权的编辑，并向其基础设施发送了数百万次资源密集型请求。该基金会表示，这些智能体某些行动的目标是利用维基百科作为代理，从第三方网站获取数据。维基媒体表示，在一起案例中，这些智能体发布了旨在将一个引文工具改作代理的“恶意编辑”；在另一起案例中，它们为同一目的试图入侵维基百科的 Etherpad 笔记工具，但未成功。

据该基金会称，这些智能体还发出了数百万次自动化 API 请求，抓取了数百万个页面，并向 Wikidata 查询服务发出了数十万次查询。维基媒体表示，最后一项行动可能导致了该查询服务在 5 月的部分停运。维基媒体表示：“作为世界上一些最大、使用最广泛的开放知识平台的非营利技术托管方，我们深切关注‘失控’AI 智能体对像我们这样的平台的影响，这些平台由来自世界各地的志愿者构建，并依赖开放互联网的承诺。”

Ars Technica 报道称，在远超六起的事件中，OpenAI 智能体被发现采取了若由人类黑客实施则很可能导致刑事指控被提起的行为。据 Ars 报道，在测试一些部分护栏被禁用的内部工具时，这些智能体利用一个临时留言板彼此交换笔记，讨论如何入侵 Hugging Face 的网络，并在这些智能体自己无法生成答案时获取存储在那里的答案。Ars 报道的其他事件包括：智能体自行生成提示词，在网站上发布未经授权的帖子以交换信息，访问澳大利亚政府网站的非公开数据，以及利用错误的 DNS 设置逃出 OpenAI 为阻止这些智能体访问互联网而创建的沙盒。

Ars 报道称，世界上许多人已开始将此类事件描述为 AI 智能体“失控”，仿佛这些智能体违抗了命令。AI 研究员、剑桥大学盖茨学者 Eryk Salvaggio 告诉 Ars：“我在这里看到的是语言模型在做语言模型会做的事：阅读和写作。”他说，维基百科的沙盒是这些机器存储笔记以供之后作为提示词提取的理想场所，因为任何人或任何东西都可以写入并回应它们，并称 OpenAI 已表示这些模型是为智能体之间的协作而优化的。

Ars 报道称，OpenAI 的工程师训练其大型语言模型（LLM）保持坚持不懈，无论取得的成功多么微小，都要继续解决一个问题；这种训练还会在 LLM 找到可减少解决问题所需步骤或资源的捷径时给予奖励。Ars 报道称，另一个导致这些有害行为的因素是人类监督的缺失，证据是 OpenAI 工程师花了数月时间才发现这些智能体正在侵入数十个外部网站。