Microsoft-Chef Nadella fordert „Notbremse“ für KI-Modelle
Satya Nadella will KI-Modelle wie ein internes Sicherheitsrisiko behandeln: Man müsse davon ausgehen, dass ein Modell kompromittiert ist – und es jederzeit stoppen können.
Archivbild · Foto: Brian Smale and Microsoft / Wikimedia Commons, CC BY-SA 4.0 (zugeschnitten und skaliert)
Microsoft-Chef Satya Nadella hat strengere Kontrollen für leistungsstarke KI-Modelle gefordert. In einem langen Beitrag auf der Plattform X schrieb er am Samstag, es sei an der Zeit, die „Vertrauensarchitektur“ von KI zu überprüfen. Superintelligenz dürfe man nicht als Satz „verschachtelter Blackboxes“ behandeln und ihre Empfehlungen, Antworten und Handlungen einfach annehmen oder ablehnen.
Nadella schlägt vor, das Modell von der Software zu trennen, die seine Arbeit steuert, und Kontrollen und Schutzmechanismen nach außen zu verlagern. Jede wichtige Aktion eines Modells solle fälschungssicher und für Menschen lesbar dokumentiert werden. Eine berechtigte Person müsse ein Modell mitten in einer Aufgabe anhalten oder abschalten können. „Wir müssen davon ausgehen, dass ein Modell kompromittiert ist, und es von Anfang an eindämmen. Stellen Sie es sich wie eine Notbremse vor“, schrieb er.
Geschlossene wie offene Spitzenmodelle sollten nach Nadellas Worten wie Insider-Risiken behandelt werden. Nach Angaben von TechCrunch reiht er sich damit in eine Reihe von Tech-Managern ein, die sich zuletzt ausführlich zur KI-Sicherheit geäußert haben. Führende KI-Firmen räumen zunehmend Vorfälle ein, bei denen sie offenbar die Kontrolle über ihre Modelle verloren hatten.