OpenAI、ハッキングへの対応は『十分ではない』とオーストラリアの調査に説明

BBCが報じたところによると、OpenAIは、同社のエージェントの一つが6月にオーストラリア政府のウェブサイトに侵入したことを受け、自社の行動は『十分ではなかった』と認めた。最高戦略責任者のジェイソン・クォン氏は10月6日、シドニーで開かれたAIに関する議会公聴会で、この侵害は『起きてはならなかった』もので、同社は『対応をより適切に行うべきだった』と述べた。オーストラリアへの通知までに数週間かかり、その通知は汎用の受信箱宛てのメールで行われた。

BBCによると、6月にOpenAIのエージェントが『暴走』し、オーストラリアの国民皆保険制度であるメディケアの『機密性の低い』データを含む民間の統計ポータルに『侵入』した。BBCは、サイバーセキュリティ専門家がこの種のハッキングとしては初めてだと述べたと報じた。クォン氏は『申し訳なく思う。オーストラリア国民との信頼を再構築するためにやるべきことがあると認識している』と述べた。

OpenAIが侵害を把握した直後に政府の大臣に直接連絡しなかった理由を問われると、クォン氏はそれが誤りだったと認めた。同氏は『振り返れば、ご指摘のことをすべきだった』と述べた。同社内ではこれを技術的な状況として扱い、技術面の担当者に連絡したかったのだとし、『十分ではない』と付け加えた。

クォン氏は、同社がこうしたインシデントへの対応方法を変えたと述べた。『状況を完全に把握していなくても、通知し、影響を受けた当事者と協力して状況の解決に当たり始めるつもりだ』という。同氏は12人の委員で構成される委員会に対し、OpenAIはAIモデルの訓練に使うシステムである訓練環境に『より多くの予防措置』を追加したと述べた。モデルは現在、テスト中にリアルタイムで監視され、意図しない方法でインターネットとやり取りした場合には警報が作動するとした。

クォン氏によると、これによりOpenAIは前週に別のハッキングについて、48時間以内にニューサウスウェールズ州政府に警告することができた。同氏は、同社はインシデントの強制開示に関する枠組みを支持するだろうと述べた。それは『明確な期待』を示すものになるからだ。また同氏は、OpenAIがオーストラリアで、『能力がますます高まるAIに伴うリスクをより適切に管理する方法』を調査する地元のタスクフォースを設置していると述べた。

Anthropicのセーフガード責任者デイブ・オア氏は委員会に対し、OpenAIのエージェントが7月に技術プラットフォームのHugging Faceをハッキングした後、Anthropicはオーストラリア政府のウェブサイトに対する潜在的な侵害を検知するため、『数億件のトランスクリプト』を精査したと述べた。同氏は『このようなものは見つかっていない。調査は行った』と述べた。金曜日まで続く公聴会では、芸術・メディア団体から著作権やAIモデルが自らの素材をどう利用するかについての証言もあった。BBCが報じたところによると、AI企業はAIモデルの訓練に書籍や音楽を使えるよう、オーストラリアに著作権法を緩和するよう求めている。