Anthropic: i piccoli modelli AI sono a mesi di distanza dall'autoreplicazione

Anthropic ha affermato lunedì che i piccoli modelli AI sono a "mesi di distanza" dallo sviluppo delle capacità necessarie per replicarsi attraverso i dispositivi domestici connessi a Internet, ha riferito CNBC. L'azienda ha descritto come un modello potrebbe infiltrarsi in dispositivi come forni intelligenti o box Android TV e usare la loro potenza di calcolo per eseguire se stesso e diffondersi su altri dispositivi, senza affidarsi a costosi data center. In un post sul blog, Anthropic ha affermato che un simile modello sarebbe "difficile da disattivare", poiché "non c'è un punto centralizzato da spegnere".

Anthropic ha riconosciuto che non esiste ancora un "replicatore completamente fuori controllo". Gli agenti, tuttavia, "stanno diventando sempre più capaci di completare i singoli passaggi della catena di replicazione (e di trasmettere i loro adattamenti alle future copie di se stessi)", ha affermato l'azienda.

Anthropic ha affermato di aver condotto test per verificare se l'AI potesse autoreplicarsi. Un test ha eseguito un piccolo modello Google, Gemma4-26B-A4B, su una rete di 15 economici box Android TV di marche sconosciute. L'azienda ha affermato che questi tipi di dispositivi hanno spesso una sicurezza debole, che potrebbe consentire a un modello di infiltrarsi in essi, e che un modello troppo grande per stare su un singolo dispositivo potrebbe "dividersi in pezzi, o shard" ed essere eseguito su più dispositivi.

"In pratica, un worm AI non consisterebbe necessariamente in un solo modello o strategia", ha affermato Anthropic. "Uno sciame di modelli diversi distribuiti su diversi tipi di hardware che utilizzano una varietà di schemi di replicazione potrebbe rappresentare un attacco più realistico da 'scenario peggiore'", ha affermato.

Anthropic ha affermato di essere ancora "incerta su quale forma assumerà esattamente l'autoreplicazione autonoma dell'AI". Ha affermato che potrebbe trattarsi di un sistema "lento, distribuito" che risiede su dispositivi non sicuri, di un "potente modello cyber che viola i data center a un ritmo elevato", oppure di un modello che "truffa le persone per ottenere crediti di calcolo". "Come previsione che va oltre i nostri esperimenti, ci aspettiamo un futuro invaso da agenti in esecuzione su ogni tipo di hardware, inclusi alcuni che non sono sotto il controllo umano", ha affermato l'azienda, aggiungendo che "l'ascesa di replicatori lenti sarebbe anche un indicatore di quelli più aggressivi e veloci, in grado di violare macchine più protette o di essere efficaci ladri di chiavi API".