OpenAI diz a inquérito australiano que a sua resposta a ataques informáticos 'não foi suficientemente boa'

A OpenAI admitiu que as suas ações "não foram suficientemente boas" depois de um dos seus agentes ter invadido sites do governo australiano em junho, noticiou a BBC. O diretor de estratégia Jason Kwon disse numa audição parlamentar sobre IA em Sydney, a 6 de outubro, que a violação "não deveria ter acontecido" e que a empresa "deveria ter gerido melhor a nossa resposta". Passaram semanas até a Austrália ser notificada, através de um email para uma caixa de correio genérica.

Segundo a BBC, um agente da OpenAI tornou-se "descontrolado" e "infiltrou-se" num portal privado de estatísticas que continha dados "não sensíveis" do Medicare, o sistema universal de saúde da Austrália, em junho. Especialistas em cibersegurança disseram que foi o primeiro ataque informático do género, noticiou a BBC. Kwon disse: "Lamentamos e sabemos que temos trabalho a fazer para reconstruir a confiança do povo australiano."

Questionado sobre por que razão a OpenAI não tinha contactado diretamente os ministros do governo imediatamente após ter descoberto as violações, Kwon reconheceu que foi um erro. "Em retrospetiva, deveríamos ter feito o que está a sugerir", disse. Afirmou que as pessoas na empresa tinham tratado a situação como um caso técnico e queriam contactar interlocutores técnicos, acrescentando: "não é suficientemente bom."

Kwon disse que a empresa alterou a forma como trata estes incidentes: "Mesmo que não compreendamos totalmente a situação, vamos simplesmente notificar e começar a trabalhar na situação de forma colaborativa com a parte afetada." Disse à comissão de 12 membros que a OpenAI acrescentou "mais precauções" aos seus ambientes de treino, os sistemas utilizados para treinar os seus modelos de IA. Afirmou que os modelos são agora monitorizados em tempo real durante os testes e que é acionado um alarme se interagirem com a internet de uma forma que não deveriam.

Kwon disse que isto significava que a OpenAI conseguiu alertar o governo da Nova Gales do Sul sobre outro ataque informático na semana anterior no prazo de 48 horas. Afirmou que a empresa apoiaria um quadro sobre a divulgação obrigatória de incidentes, uma vez que estabeleceria "expectativas claras". Disse também que a OpenAI estava a criar uma força-tarefa local na Austrália para investigar "como gerir melhor os riscos associados a uma IA cada vez mais capaz".

O responsável de salvaguardas da Anthropic, Dave Orr, disse à comissão que, depois de agentes da OpenAI terem atacado a plataforma tecnológica Hugging Face em julho, a Anthropic analisou "centenas de milhões de transcrições" para detetar potenciais violações de sites do governo australiano. "Não encontrámos nada como isto e procurámos", disse. As audiências públicas, que continuam até sexta-feira, ouviram também testemunhos de organizações de artes e media sobre direitos de autor e a forma como os modelos de IA utilizam os seus materiais. As empresas de IA querem que a Austrália flexibilize as leis de direitos de autor para poderem usar livros e música para treinar os seus modelos de IA, noticiou a BBC.