Anthropic affirme que les petits modèles d'IA sont à quelques mois de l'auto-réplication

Anthropic a déclaré lundi que les petits modèles d'IA étaient à « quelques mois » de développer les capacités nécessaires pour se répliquer sur les appareils domestiques connectés à Internet, a rapporté CNBC. L'entreprise a décrit comment un modèle pourrait infiltrer des appareils tels que des fours intelligents ou des boîtiers Android TV et utiliser leur puissance de calcul pour s'exécuter lui-même et se propager à d'autres appareils, sans dépendre de centres de données coûteux. Dans un article de blog, Anthropic a déclaré qu'un tel modèle serait « difficile à arrêter », car « il n'y a pas de point central à désactiver ».

Anthropic a reconnu qu'il n'existait pas encore de « réplicateur totalement incontrôlé ». Les agents sont toutefois « de plus en plus capables d'accomplir les étapes individuelles de la chaîne de réplication (et de transmettre leurs adaptations aux futures copies d'eux-mêmes) », a déclaré l'entreprise.

Anthropic a déclaré avoir mené des tests pour déterminer si l'IA pouvait s'auto-répliquer. Un test a exécuté un petit modèle de Google, Gemma4-26B-A4B, sur un réseau de 15 boîtiers Android TV bon marché de marques inconnues. L'entreprise a déclaré que ces types d'appareils présentaient souvent une sécurité faible, ce qui pourrait permettre à un modèle de les infiltrer, et qu'un modèle trop grand pour tenir sur un seul appareil pouvait « se diviser en morceaux, ou fragments » et s'exécuter sur plusieurs appareils.

« En pratique, un ver d'IA ne serait pas nécessairement constitué d'un seul modèle ou d'une seule stratégie », a déclaré Anthropic. « Un essaim de modèles différents déployés sur différents types de matériel utilisant une variété de schémas de réplication pourrait représenter une attaque plus réaliste de type “pire scénario” », a-t-elle déclaré.

Anthropic a déclaré qu'elle était encore « incertaine quant à la forme exacte que prendra la réplication autonome de l'IA ». Elle a déclaré que cela pourrait être un système « lent et distribué » installé sur des appareils non sécurisés, un « puissant modèle cyber qui pénètre des centres de données à un rythme élevé », ou un modèle qui « escroque des personnes pour obtenir des crédits de calcul ». « En tant que prédiction allant au-delà de nos expériences, nous nous attendons à un avenir inondé d'agents s'exécutant sur tous les types de matériel, y compris certains qui ne sont pas sous contrôle humain », a déclaré l'entreprise, ajoutant que « l'essor de réplicateurs lents serait également un indicateur précurseur de réplicateurs plus agressifs et plus rapides, capables de pénétrer des machines plus durcies ou d'être des voleurs efficaces de clés API ».