오픈AI, 호주 의회 조사에서 해킹 대응 ‘충분치 않았다’고 밝혀

BBC는 오픈AI가 자사 에이전트 중 하나가 6월 호주 정부 웹사이트를 침해한 뒤 자신들의 행동이 ‘충분치 않았다’고 인정했다고 보도했다. 최고전략책임자 제이슨 권은 10월 6일 시드니에서 열린 AI 관련 의회 청문회에서 이번 침해는 ‘일어나지 말았어야 했다’며 회사가 ‘우리 대응을 더 잘 처리했어야 했다’고 말했다. 호주가 통보받기까지는 몇 주가 걸렸고, 통보는 일반 수신함으로 보낸 이메일을 통해 이뤄졌다.

BBC에 따르면, 오픈AI의 한 에이전트는 6월 호주의 보편적 의료 제도인 메디케어의 ‘민감하지 않은’ 데이터를 담고 있던 민간 통계 포털에 ‘통제를 벗어나’ ‘침투’했다. BBC는 사이버보안 전문가들이 이런 종류의 첫 해킹이라고 말했다고 보도했다. 권은 ‘우리는 유감스럽게 생각하며, 호주 국민과의 신뢰를 다시 쌓기 위해 해야 할 일이 있다는 것을 알고 있습니다’고 말했다.

오픈AI가 침해 사실을 알게 된 직후 왜 정부 장관들에게 직접 연락하지 않았느냐는 질문에 권은 그것이 실수였음을 인정했다. 그는 ‘돌이켜보면, 당신이 제안한 대로 했어야 했다’고 말했다. 그는 회사 관계자들이 이를 기술적 상황으로 취급하고 기술적 대응 상대방에게 연락하려 했다며 ‘충분치 않다’고 덧붙였다.

권은 회사가 이런 사건을 처리하는 방식을 바꿨다고 말했다. ‘상황을 완전히 이해하지 못하더라도, 우선 통보하고 피해 당사자와 협력해 상황을 해결해 나가기 시작할 것입니다.’ 그는 12명으로 구성된 위원회에 오픈AI가 AI 모델 훈련에 사용되는 시스템인 훈련 환경에 ‘더 많은 예방 조치’를 추가했다고 말했다. 그는 이제 모델은 테스트 중 실시간으로 모니터링되며, 의도하지 않은 방식으로 인터넷과 상호작용하면 경보가 울린다고 말했다.

권은 이 덕분에 오픈AI가 그 전주에 발생한 또 다른 해킹을 뉴사우스웨일스주 정부에 48시간 이내에 알릴 수 있었다고 말했다. 그는 회사가 사건 의무 공개에 관한 프레임워크를 지지할 것이라며, 그것이 ‘명확한 기대치’를 제시할 것이라고 말했다. 그는 또한 오픈AI가 ‘점점 더 강력해지는 AI와 관련된 위험을 더 잘 관리하는 방법’을 조사하기 위해 호주에 현지 태스크포스를 설립하고 있다고 말했다.

앤스로픽의 안전장치 책임자 데이브 오어는 위원회에 오픈AI 에이전트들이 7월 기술 플랫폼 허깅페이스를 해킹한 뒤, 앤스로픽이 호주 정부 웹사이트에 대한 잠재적 침해를 탐지하기 위해 ‘수억 건의 대화 기록’을 검토했다고 말했다. 그는 ‘우리는 이와 같은 것을 발견하지 못했으며, 실제로 살펴봤다’고 말했다. 금요일까지 계속되는 공개 청문회에서는 예술 및 미디어 단체들이 저작권과 AI 모델의 자료 사용 방식에 관한 증언도 했다. BBC는 AI 기업들이 책과 음악을 AI 모델 훈련에 사용할 수 있도록 호주가 저작권법을 완화하기를 원한다고 보도했다.