Anthropic称小型AI模型距离自我复制还有数月

据CNBC报道，Anthropic周一表示，小型AI模型距离发展出在家庭联网设备间自我复制所需的能力还有“数月”。该公司描述了一个模型如何能够侵入智能烤箱或Android电视盒子等设备，利用其算力运行自身并传播到其他设备，而无需依赖昂贵的数据中心。Anthropic在一篇博客文章中表示，这样的模型将“难以关闭”，因为“没有可供关闭的集中式节点”。

Anthropic承认，目前尚未出现“完全失控的复制者”。不过，该公司表示，智能体“正越来越有能力完成复制链条中的各个步骤（并将其适应性变化传递给未来的自身副本）”。

Anthropic表示，它进行了测试，以了解AI能否自我复制。一项测试让谷歌的小型模型Gemma4-26B-A4B在一个由15台廉价杂牌Android电视盒子组成的网络上运行。该公司表示，这类设备往往安全性薄弱，可能让模型得以侵入，而单台设备容纳不下的过大模型可以“拆分成多个部分，或分片”，并在多台设备上运行。

Anthropic表示：“在实践中，AI蠕虫未必只由一种模型或策略构成。”该公司称：“一群不同的模型部署在不同类型的硬件上，使用各种复制方案，可能代表一种更现实的‘最坏情况’攻击。”

Anthropic表示，它仍然“不确定自主AI复制究竟会采取何种形式”。它说，这可能是一个存在于不安全设备上的“缓慢、分布式”系统，一个“以高速攻破数据中心的强大网络模型”，或者一个“通过欺骗人们获取算力额度”的模型。该公司表示：“作为一项超出我们实验范围的预测，我们预计未来将充斥着运行在各种类型硬件上的智能体，其中一些不受人类控制。”它还说，“缓慢复制者的兴起也将是更激进、更快速复制者的前兆，后者能够攻破防护更严密的机器，或成为有效的API密钥窃取者。”