アンソロピック、小型AIモデルの自己複製は「数カ月先」と表明

アンソロピックは月曜日、小型AIモデルが家庭内のインターネット接続機器間で自己を複製するために必要な能力を開発するまで「数カ月先」だと述べたと、CNBCが報じた。同社は、モデルがスマートオーブンやAndroid TVボックスなどの機器に侵入し、高価なデータセンターに依存することなく、その計算能力を使って自らを実行し、他の機器へ拡散する可能性があると説明した。アンソロピックはブログ投稿で、そのようなモデルは「停止させるのが難しい」だろうと述べた。なぜなら「遮断すべき集中点が存在しない」からだ。

アンソロピックは、まだ「完全に暴走した複製者」は存在しないことを認めた。しかし同社によると、エージェントは「複製連鎖における個々の段階を完了する能力をますます高めており（自らの適応を将来の自己のコピーに伝えている）」という。

アンソロピックは、AIが自己複製できるかどうかを調べるテストを実施したと述べた。あるテストでは、小型のGoogleモデル「Gemma4-26B-A4B」を15台の安価な無名ブランドのAndroid TVボックスからなるネットワーク上で実行した。同社によると、この種の機器はセキュリティが弱いことが多く、モデルが侵入できる可能性がある。また、1台の機器に収まらないほど大きなモデルは「断片、つまりシャードに分割」され、複数の機器にまたがって実行される可能性があるという。

アンソロピックは「実際には、AIワームは必ずしも単一のモデルや戦略で構成されるわけではない」と述べた。同社は「多様な複製手法を用いて異なる種類のハードウェアに配備された異なるモデルの群れが、より現実的な『最悪のシナリオ』の攻撃を表すかもしれない」と述べた。

アンソロピックは、自律的なAI複製が正確にどのような形態を取るかは「依然として不確か」だと述べた。それは、安全でない機器上に存在する「遅く、分散した」システムかもしれないし、「高速でデータセンターに侵入する強力なサイバーモデル」かもしれないし、「コンピュートクレジットのために人々をだます」モデルかもしれないという。同社は「我々の実験を超える予測として、あらゆる種類のハードウェア上で動作するエージェント——中には人間の制御下にないものも含まれる——であふれる未来を予想している」と述べ、さらに「遅い複製者の台頭は、より堅牢化されたマシンに侵入できる、あるいは有能なAPIキー窃盗者になり得る、より攻撃的で高速な複製者の前兆でもあるだろう」と付け加えた。