Anthropic zufolge sind kleine KI-Modelle nur noch Monate von der Selbstreplikation entfernt

Anthropic erklärte am Montag, wie CNBC berichtete, kleine KI-Modelle seien „Monate entfernt“ von der Entwicklung der Fähigkeiten, die nötig sind, um sich über internetverbundene Geräte im Haushalt selbst zu replizieren. Das Unternehmen beschrieb, wie ein Modell in Geräte wie intelligente Backöfen oder Android-TV-Boxen eindringen und deren Rechenleistung nutzen könnte, um sich selbst auszuführen und auf andere Geräte zu verbreiten, ohne auf teure Rechenzentren angewiesen zu sein. In einem Blogbeitrag erklärte Anthropic, ein solches Modell sei „schwierig abzuschalten“, da es „keinen zentralen Punkt gibt, den man abschalten kann“.

Anthropic räumte ein, dass es noch keinen „vollständig außer Kontrolle geratenen Replikator“ gibt. Agenten seien jedoch „zunehmend in der Lage, die einzelnen Schritte in der Replikationskette abzuschließen (und ihre Anpassungen an künftige Kopien ihrer selbst weiterzugeben)“, erklärte das Unternehmen.

Anthropic erklärte, es habe Tests durchgeführt, um zu prüfen, ob KI sich selbst replizieren könne. In einem Test lief ein kleines Google-Modell, Gemma4-26B-A4B, über ein Netzwerk aus 15 billigen No-Name-Android-TV-Boxen. Das Unternehmen erklärte, diese Art von Geräten habe oft schwache Sicherheitsvorkehrungen, was es einem Modell ermöglichen könnte, in sie einzudringen, und ein für ein einzelnes Gerät zu großes Modell könne sich „in Teile, oder Shards, aufspalten“ und auf mehreren Geräten laufen.

„In der Praxis würde ein KI-Wurm nicht unbedingt nur aus einem Modell oder einer Strategie bestehen“, erklärte Anthropic. „Ein Schwarm verschiedener Modelle, die auf unterschiedlichen Hardwaretypen mit einer Vielzahl von Replikationsschemata eingesetzt werden, könnte einen realistischeren ‚Worst-Case-Szenario‘-Angriff darstellen“, hieß es.

Anthropic erklärte, es sei weiterhin „ungewiss, welche genaue Form autonome KI-Replikation annehmen wird“. Dies könne ein „langsames, verteiltes“ System sein, das auf unsicheren Geräten sitze, ein „leistungsstarkes Cybermodell, das Rechenzentren in hohem Tempo durchbricht“, oder ein Modell, das „Menschen um Compute-Guthaben betrügt“. „Als eine über unsere Experimente hinausgehende Vorhersage erwarten wir eine Zukunft, in der es von Agenten nur so wimmelt, die auf allen Arten von Hardware laufen, darunter einige, die nicht unter menschlicher Kontrolle stehen“, erklärte das Unternehmen und fügte hinzu, dass „das Aufkommen langsamer Replikatoren auch ein Vorbote für aggressivere, schnellere sein dürfte, die stärker gehärtete Maschinen durchbrechen oder effektive API-Schlüssel-Diebe sein können“.