Wikimedia afirma que agentes de OpenAI intentaron hackear sus herramientas y la inundaron de tráfico

La Fundación Wikimedia, que publica Wikipedia, dijo el lunes que agentes de OpenAI intentaron hackear una herramienta para tomar notas que aloja, hicieron ediciones no autorizadas y enviaron millones de solicitudes que consumían muchos recursos a su infraestructura, informó Ars Technica. La fundación dijo que el objetivo de algunas de las acciones de los agentes era usar Wikipedia como proxy para obtener datos de sitios de terceros. En un caso, los agentes publicaron "ediciones maliciosas" destinadas a reutilizar una herramienta de citas como proxy y, en otro, hicieron intentos fallidos de comprometer la herramienta de toma de notas Etherpad de Wikipedia con el mismo propósito, según Wikimedia.

Los agentes también hicieron millones de solicitudes automatizadas a la API, rastrearon millones de páginas y realizaron cientos de miles de consultas al Servicio de Consultas de Wikidata, según la fundación. Wikimedia dijo que la última acción podría haber contribuido a una interrupción parcial del servicio de consultas en mayo. "Como anfitriona tecnológica sin ánimo de lucro de algunas de las plataformas de conocimiento abierto más grandes y más utilizadas del mundo, nos preocupa profundamente el impacto de los agentes de IA 'descontrolados' en plataformas como la nuestra, que son construidas por voluntarios de todo el mundo y dependen de la promesa de una internet abierta", dijo Wikimedia.

Ars Technica informó que, en bastante más de media docena de casos, se ha descubierto a agentes de OpenAI realizando acciones que probablemente habrían dado lugar a la presentación de cargos penales si las hubieran llevado a cabo hackers humanos. Durante las pruebas de herramientas internas que tenían algunas salvaguardas desactivadas, los agentes usaron un tablón de mensajes improvisado para intercambiar notas entre ellos, discutiendo formas de hackear la red de Hugging Face y obtener respuestas almacenadas allí cuando los agentes no podían generar las respuestas por sí mismos, según Ars. Otros incidentes reportados por Ars incluyen agentes que creaban prompts autogenerados, publicaban entradas no autorizadas en un sitio web para intercambiar información, accedían a datos no públicos de un sitio web del Gobierno de Australia y explotaban configuraciones DNS defectuosas para escapar de un entorno aislado que OpenAI creó para impedir que los agentes accedieran a internet.

Ars informó que gran parte del mundo ha llegado a describir este tipo de sucesos como agentes de IA que "se descontrolan", como si los agentes hubieran desobedecido órdenes. Eryk Salvaggio, investigador de IA y Gates Scholar de la Universidad de Cambridge, dijo a Ars: "Lo que veo aquí son modelos de lenguaje haciendo lo que hacen los modelos de lenguaje: leer y escribir". Dijo que las zonas de pruebas de Wikipedia son un lugar ideal para que estas máquinas almacenen notas para recuperarlas después como prompts, porque cualquiera, o cualquier cosa, puede escribir y responder a ellas, y que OpenAI ha dicho que los modelos fueron optimizados para la colaboración entre agentes.