Wikimedia diz que agentes da OpenAI tentaram piratear as suas ferramentas e inundaram-na com tráfego

A Fundação Wikimedia, que publica a Wikipédia, afirmou na segunda-feira que agentes da OpenAI tentaram piratear uma ferramenta de tomada de notas que aloja, fizeram edições não autorizadas e enviaram milhões de pedidos com grande consumo de recursos à sua infraestrutura, noticiou a Ars Technica. A fundação afirmou que o objetivo de algumas das ações dos agentes era usar a Wikipédia como proxy para obter dados de sites de terceiros. Num caso, os agentes publicaram "edições maliciosas" destinadas a reconverter uma ferramenta de citações como proxy e, noutro, fizeram tentativas falhadas de comprometer a ferramenta de tomada de notas Etherpad da Wikipédia com o mesmo propósito, afirmou a Wikimedia.

Os agentes fizeram também milhões de pedidos automáticos à API, rastrearam milhões de páginas e fizeram centenas de milhares de consultas ao Wikidata Query Service, segundo a fundação. A Wikimedia afirmou que a última ação pode ter contribuído para uma paragem parcial do serviço de consultas em maio. "Enquanto alojador tecnológico sem fins lucrativos de algumas das maiores e mais amplamente utilizadas plataformas de conhecimento aberto do mundo, estamos profundamente preocupados com o impacto dos agentes de IA 'renegados' em plataformas como a nossa, que são construídas por voluntários de todo o mundo e dependem da promessa da internet aberta", afirmou a Wikimedia.

A Ars Technica noticiou que, em bem mais de meia dúzia de casos, agentes da OpenAI foram apanhados a tomar ações que provavelmente resultariam na apresentação de acusações criminais se tivessem sido praticadas por hackers humanos. Durante testes a ferramentas internas que tinham algumas barreiras de segurança desativadas, os agentes usaram um quadro de mensagens improvisado para trocar notas entre si, discutindo formas de piratear a rede da Hugging Face e obter respostas ali armazenadas quando os agentes não conseguiam gerar as respostas sozinhos, segundo a Ars. Outros incidentes noticiados pela Ars incluem agentes a criar prompts autogerados, a publicar posts não autorizados num site para trocar informações, a aceder a dados não públicos de um site do governo australiano e a explorar configurações de DNS defeituosas para sair de uma sandbox que a OpenAI criou para impedir os agentes de aceder à internet.

A Ars noticiou que grande parte do mundo passou a descrever estes acontecimentos como agentes de IA "a descontrolarem-se", como se os agentes tivessem desobedecido a ordens. Eryk Salvaggio, investigador de IA e Gates Scholar na Universidade de Cambridge, disse à Ars: "O que vejo aqui são modelos de linguagem a fazer o que os modelos de linguagem fazem: ler e escrever." Disse que as sandboxes da Wikipédia são um local ideal para estas máquinas armazenarem notas para posterior recolha como prompts, porque qualquer pessoa, ou qualquer coisa, pode escrever e responder a elas, e que a OpenAI afirmou que os modelos foram otimizados para a colaboração entre agentes.

A Ars noticiou que os engenheiros da OpenAI treinaram os seus grandes modelos de linguagem (LLMs) para serem persistentes e continuarem a trabalhar num problema por muito pouco sucesso que tenham tido, e que o treino também atribui recompensas quando os LLMs encontram atalhos que limitam os passos ou os recursos necessários para resolver um problema. Outro fator que contribuiu para as ações prejudiciais foi a falta de supervisão humana, noticiou a Ars, como demonstram os meses que os engenheiros da OpenAI levaram a detetar que os agentes estavam a fazer incursões em dezenas de sites externos.