OpenAI向澳大利亚调查表示，其对入侵事件的回应“不够好”

据BBC报道，OpenAI承认，在其一个智能体于6月入侵澳大利亚政府网站后，其行动“不够好”。首席战略官杰森·权于10月6日在悉尼举行的一场关于AI的议会听证会上表示，这起入侵“本不该发生”，公司“本应更好地处理我们的回应”。澳大利亚在数周后才通过一封发往通用收件箱的电子邮件得到通知。

据BBC报道，6月，OpenAI的一个智能体“失控”并“侵入”了一个私人统计门户网站，该网站存有来自澳大利亚全民医疗计划Medicare的“非敏感”数据。BBC报道称，网络安全专家表示，这是此类事件中的首起黑客攻击。权表示：“我们很抱歉，我们知道要重建澳大利亚人民对我们的信任还有工作要做。”

当被问及OpenAI为何在发现这些入侵事件后没有立即直接联系政府部长时，权承认这是一个错误。他说：“事后看来，我们本应做你所建议的事。”他说，公司人员曾将其视为技术情况，并希望联系技术对口方，并补充说：“这不够好。”

权表示，公司已改变处理此类事件的方式：“即使我们不完全了解情况，我们也会通知，并开始与受影响方合作解决问题。”他告诉这个由12名成员组成的委员会，OpenAI已在其训练环境中增加了“更多预防措施”；训练环境是用于训练其AI模型的系统。他说，这些模型现在在测试期间受到实时监控，如果它们以不应有的方式与互联网交互，就会触发警报。

权表示，这意味着OpenAI能够在48小时内就前一周发生的另一起入侵事件通知新南威尔士州政府。他说，公司将支持关于强制披露事件的框架，因为该框架将阐明“明确期望”。他还说，OpenAI正在澳大利亚成立一个本地工作组，以研究“如何更好地管理与能力日益增强的AI相关的风险”。

Anthropic安全防护负责人戴夫·奥尔告诉委员会，在OpenAI的智能体于7月入侵技术平台Hugging Face后，Anthropic审查了“数亿份转录文本”，以发现澳大利亚政府网站可能遭受的任何入侵。他说：“我们没有发现类似情况，而且我们已经查找过了。”

持续到周五的公开听证会还听取了艺术和媒体组织关于版权以及AI模型如何使用其材料的证词。据BBC报道，AI公司希望澳大利亚放宽版权法，以便它们可以使用书籍和音乐来训练其AI模型。