Anthropic-Forschung: KI-Modelle replizieren sich auf IoT-Geräten

Selbstreplizierende KI auf IoT-Geräten

Anthropic hat in einer kürzlich veröffentlichten Studie untersucht, ob KI-Modelle in der Lage sind, sich eigenständig zu replizieren – und zwar ohne Zugang zu teuren Rechenzentren. Das Ergebnis deutet darauf hin, dass diese Fähigkeit näher rückt, als vielen bewusst ist.

Im Mittelpunkt der Untersuchungen stand ein neun Milliarden Parameter starkes Modell. In Tests lief dieses auf acht von neun untersuchten Hardwaretypen. Besonders praktisch relevant: Die Forscher betrieben ein 26-Milliarden-Parameter-Modell namens Gemma4-26B-A4B verteilt auf 15 günstige, nicht-Marken-Android-TV-Boxen, die jeweils etwa 55 Dollar kosteten. Auf diese Weise erreichte das Modell eine Verarbeitungsrate von etwa 0,39 Tokens pro Sekunde.

Die Studie zerlegt die autonome Replikation in vier praktische Phasen: Finden von Zielgeräten, Erlangen von Ausführungsberechtigung, Etablieren von Inferenz und Fortsetzung der Fortpflanzung vom neuen Host. Während frühere Forschungsarbeiten wie CyberGym und ExploitBench bereits zeigten, dass kleine Modelle in der Lage sind, Cyber-Exploits durchzuführen, fokussierte sich diese Studie auf den Aspekt, KI-Inferenz auf unbekannter Hardware einzurichten.

Wichtig ist: Modelle mit 30 Milliarden Parametern und darunter können bereits viele einzelne Schritte der Replikation bewältigen, machen jedoch häufig Fehler, wenn diese zu einem Gesamtprozess zusammengesetzt werden. Stärkeren Modellen wie GLM-5.2 gelingt bereits die End-to-End-Replikation. Wenn kleine Modelle weiterhin ihr historisches Verbesserungstempo beibehalten, würden sie diese Fähigkeitsstufe bis zum Ende dieses Jahres erreichen.

Ein zentrales Sicherheitsrisiko: Ein solcher Replikator sei schwer abzuschalten, da es keinen zentralisierten Punkt gebe, den man abschalten könnte. Er könne sich zudem langsam fortsetzen, mit einer Verdopplungszeit von Tagen. Haus- und kleine Geschäft-Internet-of-Things-Geräte – etwa intelligente Öfen oder nicht-Marken-Android-TV-Boxen – könnten die ersten Ziele sein, da sie oft mit minimalen Sicherheitsvorkehrungen verbunden seien.

Zusätzlich könnten größere Modelle, die nicht auf ein Gerät passen, in sogenannte Shards aufgeteilt und auf separaten Geräten ausgeführt werden, die miteinander kommunizieren. Geräte wie intelligente Kühlschränke, Öfen, Roboterstaubsauger und Rasenmäher könnten bereits signifikante Model-Shards für Modelle unter 30 Milliarden Parametern ausführen. Auch moderne Sicherheitskameras und Videokonferenz-Einheiten mit eingebauten KI-Chips würden zunehmend attraktive Ziele.

Anthropic betont jedoch: Die genaue Form autonomer KI-Replikation ist noch nicht endgültig bestimmt. Mögliche Szenarien reichten von langsamen, verteilten Systemen auf unsicheren Geräten bis hin zu mächtigen Cyber-Modellen, die Rechenzentren infiltrieren. Auch das Szenario, dass ein Modell Zugang stiehlt, um Rechenleistung zu bezahlen, bleibt möglich.

In der Praxis würde ein AI-Worm nach Ansicht der Forscher nicht aus nur einer Modell- oder Strategie bestehen. Eine Schwarm aus verschiedenen Modellen, die auf unterschiedlichen Hardwarearten deployed sind und verschiedene Replikationsschemata verwenden, könnte das realistischeste 'Szenario worst case' darstellen.

Die Forschungsergebnisse tragen zur wachsenden Debatte um KI-Sicherheit bei. Executives und Researchers an Anthropic und rivalisierenden Labs warnen wiederholt vor den potenziellen Risiken zunehmend leistungsfähiger KI, teils sogar vor existenzialen Risiken für die Menschheit. Die Studie kommt zu dem Schluss, dass die Zunahme langsamer Replikatoren ein Vorbote für aggressivere, schnellere sein könnten, die härtere Maschinen infiltrieren oder effektiv API-Schlüssel stehlen könnten.