Microsoft-Chef Nadella fordert Not-Aus-Schalter für KI-Modelle

Nadella fordert Abschaltmöglichkeit für einzelne Modelle

Microsoft-Chef Satya Nadella hat sich auf X für einen „Notaus“ für KI-Systeme ausgesprochen. Konkret: Eine autorisierte Person soll jederzeit in der Lage sein, „ein Modell mitten in der Aufgabe anzuhalten oder abzuschalten“. Vorausgesetzt sei, „ein Modell sei von Anfang an als kompromittiert anzusehen und einzudämmen“ (sinngemäß übersetzt, PCMag). Bisher war der Microsoft-Chef bei diesem Thema zurückhaltender als die Chefs von Anthropic, Google und OpenAI, wie PCMag berichtet.

Nadella argumentiert außerdem, man könne eine Superintelligenz nicht „als ineinander verschachtelte schwarze Kästen behandeln, deren Empfehlungen, Antworten und Handlungen man einfach annimmt oder ablehnt“. Den Begriff „Super Intelligence“ verwendet er dabei durchgängig – die US-Regierung hatte laut PCMag im Vormonat angeordnet, in der Exekutive statt von künstlicher Intelligenz diesen Begriff zu nutzen.

Prüfmittel sollen bei den Entwicklern liegen

Ein zweiter Punkt betrifft die Kontrollmechanismen: Sie sollen von denjenigen verantwortet werden, die ein Modell entwickelt haben. Kein einzelnes Modell dürfe „sowohl das Verhalten eines Systems steuern als auch die Belege, die bestimmen, ob dieses Verhalten mit der ursprünglichen Absicht übereinstimmt“ (sinngemäß übersetzt, PCMag).

Drittens braucht die Branche nach Nadella ein Meldesystem, das zeitnah greift, wenn Modelle „scheitern oder kompromittiert“ sind, damit Unternehmen die Erkenntnisse aus solchen Fällen auch branchenweit nutzen können.

Einordnung: Selbstregulation ohne Zeitplan

Der Aufruf steht in einer laufenden Debatte. Anthropic-Chef Dario Amodei hatte im Vormonat zum langsameren Entwicklungstempo aufgerufen, OpenAI-Chef Sam Altman und Elon Musk schlossen sich an – freiwillige Selbstregulation, ohne staatliche Vorgaben. Fox News greift die Frage in einer Podiumsdiskussion unter dem Stichwort „KI-Kill-Switch“ auf.

In dieselbe Zeit fällt Microsofts eigener Ausbau: Der Konzern will seine Azure-Maia-KI-Chips ab 2027 deutlich erweitern und zur Haupttechnologie für KI in seinen Produkten und Diensten machen. Nadella nannte das seinen „größten Einsatz bisher auf eigene Chips“ (sinngemäß übersetzt, Fox News).

Warum das für Leser in Deutschland und Österreich zählt

Konkrete Folgen hat der Beitrag zunächst nicht: Nadellas Post ist ein öffentlicher Appell, kein Verfahren. Die Debatte betrifft US-Unternehmen; zu europäischen Regeln, Zuständigkeiten oder Zeitplänen enthalten die Quellen keine Angaben. Für Betreiber, die KI-Systeme einsetzen, ist der Vorschlag aber die technische Frage des Tages – ein kompromittiertes Modell soll sich mitten im laufenden Betrieb stoppen lassen, und die Prüfung darf nicht vom selben System abhängen, das überwacht wird.

Was ist noch unklar

• Wer die „autorisierte Person“ sein soll und wie der Abschaltprozess technisch aussehen soll, legt Nadella nicht fest.
• Fox News titelt in derselben Themenschwerpunkt-Reihe, der Microsoft-Präsident fordere globale KI-Regulierung und warne vor Sicherheitslücken; weitere Details dazu nennt die Quelle nicht.
• PCMag bleibt skeptisch, ob große Technologiekonzerne dafür tatsächlich Einnahmen opfern.
• Ein Zeitplan oder ein rechtlicher Rahmen für die geforderte Offenlegung fehlt.