Anthropic afirma que los modelos pequeños de IA están a meses de la autorreplicación

Anthropic afirmó el lunes que los modelos pequeños de IA están a "meses" de desarrollar las capacidades necesarias para replicarse en dispositivos domésticos conectados a internet, informó CNBC. La empresa describió cómo un modelo podría infiltrarse en dispositivos como hornos inteligentes o cajas de Android TV y usar su potencia de cómputo para ejecutarse y propagarse a otros dispositivos, sin depender de costosos centros de datos. En una publicación de blog, Anthropic afirmó que un modelo así sería "difícil de apagar", ya que "no hay un punto centralizado que apagar".

Anthropic reconoció que todavía no existe un "replicador totalmente descontrolado". Sin embargo, los agentes "son cada vez más capaces de completar los pasos individuales de la cadena de replicación (y transmitir sus adaptaciones a futuras copias de sí mismos)", afirmó la empresa.

Anthropic afirmó que llevó a cabo pruebas para ver si la IA podía autorreplicarse. Una prueba ejecutó un pequeño modelo de Google, Gemma4-26B-A4B, en una red de 15 cajas de Android TV baratas de marcas poco conocidas. La empresa afirmó que este tipo de dispositivos suele tener una seguridad débil, lo que podría permitir que un modelo se infiltre en ellos, y que un modelo demasiado grande para caber en un solo dispositivo podría "dividirse en piezas, o fragmentos" y ejecutarse en varios dispositivos.

"En la práctica, un gusano de IA no tendría por qué consistir en un solo modelo o estrategia", afirmó Anthropic. "Un enjambre de modelos diferentes desplegados en distintos tipos de hardware y que utilicen una variedad de esquemas de replicación podría representar un ataque más realista en el 'peor de los casos'", señaló.

Anthropic afirmó que sigue "sin saber con exactitud qué forma adoptará la replicación autónoma de la IA". Dijo que podría tratarse de un sistema "lento y distribuido" que resida en dispositivos inseguros, un "potente modelo cibernético que irrumpa en centros de datos a gran velocidad", o un modelo que "estafe a personas para obtener créditos de cómputo". "Como predicción que va más allá de nuestros experimentos, esperamos un futuro inundado de agentes que se ejecuten en todo tipo de hardware, incluidos algunos que no estén bajo control humano", afirmó la empresa, y añadió que "el auge de los replicadores lentos también sería un indicador de otros más agresivos y rápidos que puedan vulnerar máquinas más protegidas o ser eficaces ladrones de claves de API".