Anthropic diz que pequenos modelos de IA estão a meses da autorreplicação

A Anthropic afirmou na segunda-feira que pequenos modelos de IA estão a "meses" de desenvolver as capacidades necessárias para se replicarem em dispositivos domésticos ligados à internet, noticiou a CNBC. A empresa descreveu como um modelo poderia infiltrar-se em dispositivos como fornos inteligentes ou caixas Android TV e usar a sua capacidade computacional para se executar e propagar-se para outros dispositivos, sem depender de centros de dados dispendiosos. Numa publicação no blogue, a Anthropic afirmou que um modelo desses seria "difícil de desligar", uma vez que "não há um ponto centralizado para desligar".

A Anthropic reconheceu que ainda não existe um "replicador totalmente descontrolado". No entanto, os agentes estão "a tornar-se cada vez mais capazes de completar os passos individuais da cadeia de replicação (e de transmitir as suas adaptações a futuras cópias de si próprios)", afirmou a empresa.

A Anthropic afirmou que realizou testes para ver se a IA conseguia autorreplicar-se. Um teste executou um pequeno modelo da Google, o Gemma4-26B-A4B, numa rede de 15 caixas Android TV baratas de marcas desconhecidas. A empresa afirmou que este tipo de dispositivos tem frequentemente segurança fraca, o que poderia permitir que um modelo se infiltrasse neles, e que um modelo demasiado grande para caber num único dispositivo poderia "dividir-se em pedaços, ou fragmentos" e ser executado em vários dispositivos.

"Na prática, um verme de IA não teria necessariamente de consistir apenas num modelo ou estratégia", afirmou a Anthropic. "Um enxame de modelos diferentes implantados em diferentes tipos de hardware, utilizando uma variedade de esquemas de replicação, poderia representar um ataque mais realista de 'pior cenário'", disse.

A Anthropic afirmou que ainda está "incerta quanto à forma exata que a replicação autónoma de IA assumirá". Afirmou que esta poderá ser um sistema "lento e distribuído" instalado em dispositivos inseguros, um "poderoso modelo cibernético que invade centros de dados a um ritmo elevado", ou um modelo que "engana pessoas para obter créditos de computação". "Enquanto previsão que vai além das nossas experiências, esperamos um futuro inundado de agentes a funcionar em todos os tipos de hardware, incluindo alguns que não estão sob controlo humano", afirmou a empresa, acrescentando que "o surgimento de replicadores lentos seria também um indicador de outros mais agressivos e rápidos, capazes de invadir máquinas mais protegidas ou de serem ladrões eficazes de chaves API".