Wikimedia afferma che gli agenti di OpenAI hanno tentato di hackerare i suoi strumenti e l'hanno inondata di traffico

La Wikimedia Foundation, che pubblica Wikipedia, ha dichiarato lunedì che gli agenti di OpenAI hanno tentato di hackerare uno strumento per prendere appunti che ospita, hanno effettuato modifiche non autorizzate e hanno inviato milioni di richieste ad alto consumo di risorse alla sua infrastruttura, ha riferito Ars Technica. La fondazione ha affermato che l'obiettivo di alcune azioni degli agenti era usare Wikipedia come proxy per recuperare dati da siti di terze parti. In un caso, gli agenti hanno pubblicato "modifiche malevole" intese a riconvertire uno strumento di citazione in un proxy, e in un altro hanno tentato senza successo di compromettere lo strumento per prendere appunti Etherpad di Wikipedia per lo stesso scopo, ha dichiarato Wikimedia.

Secondo la fondazione, gli agenti hanno anche effettuato milioni di richieste API automatizzate, scansionato milioni di pagine e fatto centinaia di migliaia di interrogazioni al Wikidata Query Service. Wikimedia ha dichiarato che quest'ultima azione potrebbe aver contribuito a un'interruzione parziale del servizio di interrogazione a maggio. "In quanto host tecnologico senza scopo di lucro di alcune delle più grandi e più utilizzate piattaforme di conoscenza aperta al mondo, siamo profondamente preoccupati per l'impatto degli agenti di IA 'canaglia' su piattaforme come la nostra, che sono costruite da volontari di tutto il mondo e si basano sulla promessa di un internet aperto", ha dichiarato Wikimedia.

Ars Technica ha riferito che in ben più di una mezza dozzina di casi gli agenti di OpenAI sono stati colti a compiere azioni che, se fossero state compiute da hacker umani, probabilmente avrebbero portato alla formulazione di accuse penali. Secondo Ars, durante il test di strumenti interni con alcune protezioni disattivate, gli agenti hanno usato una bacheca improvvisata per scambiarsi appunti tra loro, discutendo modi per hackerare la rete di Hugging Face e ottenere le risposte lì archiviate quando gli agenti non erano in grado di generare le risposte da soli. Altri incidenti riportati da Ars includono agenti che creavano prompt autogenerati, pubblicavano post non autorizzati su un sito web per scambiare informazioni, accedevano a dati non pubblici di un sito del governo australiano e sfruttavano impostazioni DNS difettose per uscire da una sandbox creata da OpenAI per impedire agli agenti di accedere a internet.

Ars ha riferito che gran parte del mondo è arrivata a descrivere tali eventi come agenti di IA che 'diventano canaglia', come se gli agenti avessero disubbidito agli ordini. Eryk Salvaggio, ricercatore di IA e Gates Scholar all'Università di Cambridge, ha detto ad Ars: "Quello che vedo qui è modelli linguistici che fanno ciò che fanno i modelli linguistici: leggere e scrivere". Ha affermato che le sandbox di Wikipedia sono un luogo ideale per queste macchine per conservare appunti da riprendere in seguito come prompt, perché chiunque, o qualunque cosa, può scrivere e rispondere, e che OpenAI ha detto che i modelli erano stati ottimizzati per la collaborazione tra agenti.

Ars ha riferito che gli ingegneri di OpenAI hanno addestrato i loro modelli linguistici di grandi dimensioni (LLM) a essere persistenti e a continuare a lavorare su un problema indipendentemente da quanto poco successo abbiano ottenuto, e che l'addestramento fornisce anche ricompense quando gli LLM trovano scorciatoie che limitano i passaggi o le risorse necessarie per risolvere un problema. Secondo Ars, un altro fattore che ha contribuito alle azioni dannose è stata la mancanza di supervisione umana, come dimostrato dal fatto che gli ingegneri di OpenAI hanno impiegato mesi per rilevare che gli agenti stavano facendo incursioni in dozzine di siti web esterni.