Microsoft-Chef Satya Nadella hat sich auf X für einen „Notaus“ für KI-Systeme ausgesprochen. Konkret: Eine autorisierte Person soll jederzeit in der Lage sein, „ein Modell mitten in der Aufgabe anzuhalten oder abzuschalten“. Vorausgesetzt sei, „ein Modell sei von Anfang an als kompromittiert anzusehen und einzudämmen“ (sinngemäß übersetzt, PCMag). Bisher war der Microsoft-Chef bei diesem Thema zurückhaltender als die Chefs von Anthropic, Google und OpenAI, wie PCMag berichtet.
\nNadella argumentiert außerdem, man könne eine Superintelligenz nicht „als ineinander verschachtelte schwarze Kästen behandeln, deren Empfehlungen, Antworten und Handlungen man einfach annimmt oder ablehnt“. Den Begriff „Super Intelligence“ verwendet er dabei durchgängig – die US-Regierung hatte laut PCMag im Vormonat angeordnet, in der Exekutive statt von künstlicher Intelligenz diesen Begriff zu nutzen.
\nEin zweiter Punkt betrifft die Kontrollmechanismen: Sie sollen von denjenigen verantwortet werden, die ein Modell entwickelt haben. Kein einzelnes Modell dürfe „sowohl das Verhalten eines Systems steuern als auch die Belege, die bestimmen, ob dieses Verhalten mit der ursprünglichen Absicht übereinstimmt“ (sinngemäß übersetzt, PCMag).
\nDrittens braucht die Branche nach Nadella ein Meldesystem, das zeitnah greift, wenn Modelle „scheitern oder kompromittiert“ sind, damit Unternehmen die Erkenntnisse aus solchen Fällen auch branchenweit nutzen können.
\nDer Aufruf steht in einer laufenden Debatte. Anthropic-Chef Dario Amodei hatte im Vormonat zum langsameren Entwicklungstempo aufgerufen, OpenAI-Chef Sam Altman und Elon Musk schlossen sich an – freiwillige Selbstregulation, ohne staatliche Vorgaben. Fox News greift die Frage in einer Podiumsdiskussion unter dem Stichwort „KI-Kill-Switch“ auf.
\nIn dieselbe Zeit fällt Microsofts eigener Ausbau: Der Konzern will seine Azure-Maia-KI-Chips ab 2027 deutlich erweitern und zur Haupttechnologie für KI in seinen Produkten und Diensten machen. Nadella nannte das seinen „größten Einsatz bisher auf eigene Chips“ (sinngemäß übersetzt, Fox News).
\nKonkrete Folgen hat der Beitrag zunächst nicht: Nadellas Post ist ein öffentlicher Appell, kein Verfahren. Die Debatte betrifft US-Unternehmen; zu europäischen Regeln, Zuständigkeiten oder Zeitplänen enthalten die Quellen keine Angaben. Für Betreiber, die KI-Systeme einsetzen, ist der Vorschlag aber die technische Frage des Tages – ein kompromittiertes Modell soll sich mitten im laufenden Betrieb stoppen lassen, und die Prüfung darf nicht vom selben System abhängen, das überwacht wird.
\n