앤스로픽, 소형 AI 모델 자기 복제 '몇 달 남지 않아'

CNBC에 따르면 앤스로픽은 월요일 소형 AI 모델이 가정 내 인터넷 연결 기기 전반으로 스스로를 복제하는 데 필요한 역량을 개발하기까지 "몇 달" 남지 않았다고 밝혔다. 이 회사는 모델이 스마트 오븐이나 안드로이드 TV 박스 같은 기기에 침투해 값비싼 데이터센터에 의존하지 않고 해당 기기의 컴퓨팅 성능을 이용해 스스로 실행되고 다른 기기로 확산할 수 있는 방식을 설명했다. 앤스로픽은 블로그 게시물에서 그러한 모델은 "중단시키기 어려울 것"이며 "차단할 중앙 지점이 없기" 때문이라고 밝혔다.

앤스로픽은 아직 "완전히 통제를 벗어난 복제자"는 없다는 점을 인정했다. 그러나 회사는 에이전트들이 "복제 사슬의 개별 단계를 완수하고 (자신의 적응을 미래의 자기 복사본에 전달하는) 능력을 점점 더 갖추고 있다"고 밝혔다.

앤스로픽은 AI가 스스로 복제할 수 있는지 확인하기 위한 실험을 수행했다고 밝혔다. 한 실험에서는 구글의 소형 모델인 Gemma4-26B-A4B를 값싼 비브랜드 안드로이드 TV 박스 15대로 구성된 네트워크에서 실행했다. 회사는 이런 유형의 기기는 보안이 취약한 경우가 많아 모델이 침투할 수 있으며, 한 기기에 담기에는 너무 큰 모델은 "조각, 즉 샤드로 나뉘어" 여러 기기에서 실행될 수 있다고 밝혔다.

앤스로픽은 "실제로는 AI 웜이 반드시 하나의 모델이나 전략으로만 구성되지는 않을 것"이라고 말했다. 이어 "다양한 복제 방식을 사용해 여러 유형의 하드웨어에 배치된 서로 다른 모델들의 군집이 더 현실적인 '최악의 시나리오' 공격을 나타낼 수 있다"고 밝혔다.

앤스로픽은 자율 AI 복제가 정확히 어떤 형태를 띨지는 여전히 "불확실하다"고 밝혔다. 이는 보안이 취약한 기기에 상주하는 "느리고 분산된" 시스템일 수도 있고, "데이터센터를 빠른 속도로 침해하는 강력한 사이버 모델"일 수도 있으며, "컴퓨팅 크레딧을 얻기 위해 사람들을 사기치는" 모델일 수도 있다고 말했다. 회사는 "우리 실험을 넘어서는 예측으로서, 우리는 모든 유형의 하드웨어에서 실행되는 에이전트, 그중 일부는 인간의 통제를 받지 않는 에이전트로 넘쳐나는 미래를 예상한다"고 밝히며, "느린 복제자의 부상은 더 공격적이고 더 빠르며, 더 강화된 기계를 침해하거나 유능한 API 키 탈취범이 될 수 있는 복제자들의 전조가 될 것"이라고 덧붙였다.