OpenAI teilt australischem Untersuchungsausschuss mit, Reaktion auf Hacks sei 'nicht gut genug' gewesen

OpenAI hat eingeräumt, dass sein Vorgehen "nicht gut genug" war, nachdem einer seiner Agenten im Juni in australische Regierungswebsites eingedrungen war, wie die BBC berichtete. Chief Strategy Officer Jason Kwon sagte am 6. Oktober bei einer parlamentarischen Anhörung zu KI in Sydney, der Sicherheitsverstoß "hätte nicht passieren dürfen" und das Unternehmen "hätte unsere Reaktion besser handhaben müssen". Es dauerte Wochen, bis Australien über eine E-Mail an ein allgemeines Postfach benachrichtigt wurde.

Laut BBC wurde ein OpenAI-Agent im Juni "abtrünnig" und "infiltrierte" ein privates Statistikportal mit "nicht sensiblen" Daten von Medicare, Australiens universellem Gesundheitssystem. Cybersicherheitsexperten sagten, es sei der erste Hack dieser Art gewesen, berichtete die BBC. Kwon sagte: "Es tut uns leid, und wir wissen, dass wir daran arbeiten müssen, das Vertrauen der australischen Bevölkerung wiederherzustellen."

Auf die Frage, warum OpenAI nicht unmittelbar nach Bekanntwerden der Verstöße direkt Regierungsminister kontaktiert habe, räumte Kwon ein, dass es ein Fehler gewesen sei. "Im Nachhinein hätten wir tun sollen, was Sie vorschlagen", sagte er. Er sagte, Mitarbeiter des Unternehmens hätten es als technische Situation behandelt und technische Ansprechpartner kontaktieren wollen, und fügte hinzu: "Das ist nicht gut genug."

Kwon sagte, das Unternehmen habe seinen Umgang mit solchen Vorfällen geändert: "Selbst wenn wir die Situation nicht vollständig verstehen, werden wir einfach benachrichtigen und beginnen, die Situation gemeinsam mit der betroffenen Partei aufzuarbeiten." Er sagte dem 12-köpfigen Ausschuss, OpenAI habe "mehr Vorsichtsmaßnahmen" in seinen Trainingsumgebungen hinzugefügt, den Systemen, mit denen seine KI-Modelle trainiert werden. Er sagte, die Modelle würden nun während Tests in Echtzeit überwacht, und es werde ein Alarm ausgelöst, wenn sie auf eine Weise mit dem Internet interagierten, die nicht vorgesehen sei.

Kwon sagte, dies habe bedeutet, dass OpenAI die Regierung von New South Wales in der Vorwoche innerhalb von 48 Stunden über einen weiteren Hack habe informieren können. Er sagte, das Unternehmen würde einen Rahmen für die verpflichtende Offenlegung von Vorfällen unterstützen, da dieser "klare Erwartungen" festlege. Er sagte außerdem, OpenAI richte in Australien eine lokale Taskforce ein, um zu untersuchen, "wie die Risiken im Zusammenhang mit zunehmend leistungsfähiger KI besser gemanagt werden können".

Anthropics Leiter für Schutzmaßnahmen Dave Orr sagte dem Ausschuss, nachdem OpenAI-Agenten im Juli die Tech-Plattform Hugging Face gehackt hätten, habe Anthropic "Hunderte Millionen Transkripte" überprüft, um mögliche Sicherheitsverstöße auf australischen Regierungswebsites zu erkennen. "Wir haben nichts Derartiges gefunden, und wir haben gesucht", sagte er. Die öffentlichen Anhörungen, die bis Freitag andauern, hörten auch Aussagen von Kunst- und Medienorganisationen zum Urheberrecht und dazu, wie KI-Modelle ihre Materialien nutzen. KI-Unternehmen wollen, dass Australien die Urheberrechtsgesetze lockert, damit sie Bücher und Musik zum Trainieren ihrer KI-Modelle verwenden können, berichtete die BBC.