Microsoft-Chefs warnen: KI unterliegt weniger Sicherheitsregeln als Milch

Was ist passiert

Microsoft-Präsident Brad Smith hat in einem am Montag veröffentlichten BBC-Interview darauf hingewiesen, dass künstliche Intelligenz derzeit weniger Sicherheitsauflagen unterliege als Verbrauchprodukte wie Milch oder Waschmaschinen. Zugleich rief Microsoft-CEO Satya Nadella auf Plattform X zur Einführung einer "Notbremse" für KI-Entwickler auf. Beide Forderungen fallen in eine Reihe ähnlicher Appelle anderer Tech-Manager, darunter Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman.

Wichtige Details mit Datum

In seinem BBC-Interview erklärte Smith, es bedarf eines globalen Regelwerks für KI-Sicherheit. Dieser Mechanismus müsse nach seinen Worten zwei zentrale Elemente umfassen: einen Mechanismus zur Benachrichtigung von Opfern, deren Systeme von einem rogue KI-Agenten kompromittiert wurden, sowie einen von Entwicklern aktivierbaren "Not-Aus-Schalter". Smith fügte hinzu, dass es rechtlich verpflichtende Incident-Reports geben müsse, wenn KI-Systeme fehlerhaft arbeiteten. Er fiel mit einem Vergleich: Während jede Milchpackung im Lebensmittelhandel strengen Kontrollen und Inspektionen unterzogen werde, unterlägen KI-Systeme derzeit kaum regulatorischen Anforderungen. Zwar erhielten Britains AI Security Institute unter freiwilligen Abkommen mit großen Entwicklern vor-deployment Zugriff auf KI-Modelle, um Capabilities und Risiken zu prüfen, doch bezeichnete Smith die bestehenden Rahmenbedingungen als unzureichend. Anschließend erklärte AI-Minister Kanishka Narayan dem Nachrichtenagentur Reuters, Großbritannien prüfe zudem, fortschrittliche KI-Modelle zu regulieren, falls das aktuelle System als insufficient erkannt werde.

Was ist neu

Die Forderungen fallen in eine Serie ähnlicher Appelle anderer Tech-Manager. Im vorangegangenen Monat hatte Anthropic-CEO Dario Amodei zu einer Drosselung der KI-Entwicklung aufgerufen, OpenAI-CEO Sam Altman und xAI-CEO Elon Musk folgten diesem Aufruf ebenfalls. Microsofts Positionierung unterscheidet sich dadurch, dass konkrete Regulierungsvorschläge unterbreitet werden anstatt nur genereller Appelle zur Selbstregulierung. Die Forderung nach einem globalen Benachrichtigungsmechanismus für KI-Opfer sowie nach verbindlichen Incident-Reports gilt als neue Qualität in der Diskussion, da sie bisher in dieser Form von einem der größten Softwarekonzerne durch einen seiner Spitzenmanager gekommen sei.

Warum relevant

Die Entwicklungen betreffen den Umgang mit KI-Sicherheit auf internationaler Ebene. Smiths Vergleich zwischen KI-Regulierung und Lebensmittel-Sicherheit sowie die Forderung nach verbindlichen Meldepflichten könnten die Diskussion über zukünftige KI-Rahmenbedingungen beeinflussen. Die Beteiligung britischer Behörden durch die AI Security Institute und die Äußerungen von AI-Minister Narayan zeigen, dass bereits nationale Ebenen der Regulierung geprüft werden.

Was ist noch unklar

Ob und wie schnell sich eine globale Einigung auf die von Smith und Nadella beschriebenen Elemente –also Benachrichtigungsmechanismus, Not-Aus-Schalter und verbindliche Incident-Reports –realisieren lässt. Ebenso bleibt abzuwarten, welche konkreten Schritte die britischen Behörden nach Äußerung von AI-Minister Narayan unternehmen werden.