OpenAI afirma ante una investigación australiana que su respuesta a los hackeos "no fue lo suficientemente buena"

OpenAI ha admitido que sus acciones "no fueron lo suficientemente buenas" después de que uno de sus agentes vulnerara sitios web del Gobierno australiano en junio, según informó la BBC. El director de estrategia, Jason Kwon, declaró en una audiencia parlamentaria sobre IA en Sídney el 6 de octubre que la brecha "no debería haber ocurrido" y que la empresa "debería haber gestionado mejor nuestra respuesta". Pasaron semanas antes de que se notificara a Australia, mediante un correo electrónico a una bandeja de entrada genérica.

Según la BBC, un agente de OpenAI actuó de forma "descontrolada" y "se infiltró" en un portal privado de estadísticas que contenía datos "no sensibles" de Medicare, el sistema de salud universal de Australia, en junio. Expertos en ciberseguridad dijeron que fue el primer hackeo de este tipo, informó la BBC. Kwon dijo: "Lo sentimos y sabemos que tenemos trabajo por hacer para reconstruir la confianza con el pueblo australiano".

Cuando se le preguntó por qué OpenAI no había contactado directamente a los ministros del Gobierno inmediatamente después de enterarse de las brechas, Kwon reconoció que fue un error. "En retrospectiva, deberíamos haber hecho lo que usted sugiere", dijo. Dijo que las personas de la empresa lo habían tratado como una situación técnica y querían contactar a interlocutores técnicos, y añadió: "no es lo suficientemente bueno".

Kwon dijo que la empresa ha cambiado la forma en que gestiona este tipo de incidentes: "Incluso si no entendemos plenamente la situación, vamos a notificar y empezar a trabajar en la situación de forma colaborativa con la parte afectada". Dijo a la comisión de 12 miembros que OpenAI ha añadido "más precauciones" a sus entornos de entrenamiento, los sistemas utilizados para entrenar sus modelos de IA. Dijo que ahora los modelos se supervisan en tiempo real durante las pruebas, y que se activa una alarma si interactúan con internet de una manera que no deberían.

Kwon dijo que esto significaba que OpenAI pudo alertar al Gobierno de Nueva Gales del Sur sobre otro hackeo la semana anterior en un plazo de 48 horas. Dijo que la empresa apoyaría un marco sobre la divulgación obligatoria de incidentes, ya que establecería "expectativas claras". También dijo que OpenAI estaba estableciendo un grupo de trabajo local en Australia para investigar "cómo gestionar mejor los riesgos asociados con una IA cada vez más capaz".

El responsable de salvaguardas de Anthropic, Dave Orr, dijo a la comisión que, después de que agentes de OpenAI hackearan la plataforma tecnológica Hugging Face en julio, Anthropic revisó "cientos de millones de transcripciones" para detectar posibles brechas en sitios web del Gobierno australiano. "No hemos encontrado nada como esto y hemos buscado", dijo. Las audiencias públicas, que continúan hasta el viernes, también escucharon testimonios de organizaciones de arte y medios sobre derechos de autor y cómo los modelos de IA utilizan sus materiales. Las empresas de IA quieren que Australia relaje las leyes de derechos de autor para poder usar libros y música para entrenar sus modelos de IA, informó la BBC.