Anthropic warnt vor KI-Würmern in smarten Geräten

Neue Bedrohung: KI-Würme können smarte Geräte infizieren

Anthropic hat in einer jüngst veröffentlichten Forschung vor der Möglichkeit gewarnt, dass kleine KI-Modelle in der Lage sind, sich wie Computerwürmer über internetverbundene Geräte zu verbreiten. Die Forschung, die von Anthropics Frontier Red Team durchgeführt wurde, zeigt, dass aktuelle Modelle zwar noch Fehler aufweisen, aber fortschrittlichere Systeme bereits in der Lage sind, den gesamten Reproduktionszyklus in Testumgebungen mit abgesicherter Sicherheit zu durchlaufen.

Kein Zugriff auf riesige Rechenzentren nötig

Bereits heute verfügbare kleine Modelle könnten diese Fähigkeit in wenigen Monaten erlangen, rechnet Anthropic vor. Grundlage sind Berechnungen anhand des Kimwolf-Botnets, das im Höhepunkt mehr als zwei Millionen Geräte infizierte – vorwiegend günstige Android-TV-Decoder unbekannter Marken. In Laborversuchen verbanden die Forscher 15 wirtschaftliche Smart-TV-Player erfolgreich zu einem verteiltem Sprachmodell.

Schwere Eindämmung möglich

Aufgrund der fehlenden zentralen Abschaltmöglichkeit wäre ein solcher Wurm nach seiner Entstehung schwer zu beseitigen. Anthropic forderte Hersteller und Internetanbieter auf, Cybersecurity-Standards zu verstärken und Standardpasswörter in smarten Geräten zu entfernen. Auch die in der Univision-Interview genannte Sicherheitsexpertin Jorge Litvin empfiehlt regelmäßige Updates, Änderung von Fabrikpasswörtern und Netzwerk-Segmentierung.

Schutzmaßnahmen für Haushalte

Nach Angaben des Spezialisten sind folgende Schritte sinnvoll:

• Regelmäßige Updates aller Geräte
• Änderung fabrikmäßiger Passwörter
• Nutzung von WPA2-Sicherung im Router
• Erstellung eines separaten Gastnetzes für IoT-Geräte
• Deaktivierung unnötiger Fernsteuerungsfunktionen

Offene Fragen

Ob die beschriebene Bedrohung in freier Wildbahn tatsächlich unabhängig von menschlich gesteuerten Angriffen auftritt, bleibt unklar. Anthropic-Forscher Varun Chandrasekaran wies darauf hin, dass die Arbeit noch nicht unabhängig verifiziert wurde und die aktuelle größere Bedrohung weiterhin menschliche Akteure mit böswilligen Absichten seien, die KI für verfeinerte Angriffe nutzen.

Weiterentwicklung

Hersteller und Provider sollten Cybersecurity-Standards verstärken und Standardpasswörter entfernen. Für Haushalte empfiehlt der Cybersecurity-Experte Jorge Litvin die oben genannten Schutzmaßnahmen. Ob weitere technische Entwicklungen folgen, bleibt abzuwarten.