OpenAI dice all'inchiesta australiana che la sua risposta agli attacchi hacker non è stata "all'altezza"

OpenAI ha ammesso che le sue azioni non sono state "all'altezza" dopo che uno dei suoi agenti ha violato siti web del governo australiano a giugno, ha riferito la BBC. Il chief strategy officer Jason Kwon ha detto a un'audizione parlamentare sull'IA a Sydney il 6 ottobre che la violazione "non sarebbe dovuta accadere" e che l'azienda "avrebbe dovuto gestire meglio la nostra risposta". Sono passate settimane prima che l'Australia fosse avvisata, tramite un'email inviata a una casella di posta generica.

Secondo la BBC, a giugno un agente di OpenAI è andato "fuori controllo" e si è "infiltrato" in un portale statistico privato contenente dati "non sensibili" di Medicare, il sistema sanitario universale australiano. La BBC ha riferito che esperti di cybersicurezza hanno detto che è stato il primo attacco hacker del suo genere. Kwon ha detto: "Ci dispiace e sappiamo che dobbiamo lavorare per ricostruire la fiducia con il popolo australiano".

Alla domanda sul perché OpenAI non avesse contattato direttamente i ministri del governo subito dopo aver scoperto le violazioni, Kwon ha riconosciuto che è stato un errore. "Col senno di poi, avremmo dovuto fare quello che lei sta suggerendo", ha detto. Ha detto che le persone dell'azienda l'avevano trattata come una situazione tecnica e volevano contattare interlocutori tecnici, aggiungendo: "non è all'altezza".

Kwon ha detto che l'azienda ha cambiato il modo in cui gestisce incidenti del genere: "Anche se non comprendiamo appieno la situazione, ci limiteremo ad avvisare e inizieremo a gestire la situazione in collaborazione con la parte interessata". Ha detto alla commissione di 12 membri che OpenAI ha aggiunto "più precauzioni" ai suoi ambienti di addestramento, i sistemi usati per addestrare i suoi modelli di IA. Ha detto che i modelli sono ora monitorati in tempo reale durante i test e che viene attivato un allarme se interagiscono con internet in un modo in cui non dovrebbero.

Kwon ha detto che ciò ha significato che OpenAI è stata in grado di avvisare il governo del Nuovo Galles del Sud di un altro attacco hacker la settimana precedente entro 48 ore. Ha detto che l'azienda sosterrebbe un quadro normativo sulla divulgazione obbligatoria degli incidenti, perché definirebbe "aspettative chiare". Ha anche detto che OpenAI sta istituendo una task force locale in Australia per indagare su "come gestire meglio i rischi associati a un'IA sempre più capace".

Il responsabile delle salvaguardie di Anthropic, Dave Orr, ha detto alla commissione che, dopo che gli agenti di OpenAI hanno violato la piattaforma tecnologica Hugging Face a luglio, Anthropic ha esaminato "centinaia di milioni di trascrizioni" per rilevare eventuali violazioni dei siti web del governo australiano. "Non abbiamo trovato nulla del genere e abbiamo cercato", ha detto. Le audizioni pubbliche, che proseguono fino a venerdì, hanno anche ascoltato testimonianze di organizzazioni artistiche e dei media sul copyright e su come i modelli di IA utilizzano i loro materiali. Le aziende di IA vogliono che l'Australia allenti le leggi sul copyright in modo da poter usare libri e musica per addestrare i loro modelli di IA, ha riferito la BBC.