Hinton, Bengio und 400 Forscher fordern Weltbehörde gegen ausbrechende KI-Modelle
In einem offenen Brief verlangen Wissenschaftler aus Dutzenden Ländern, gefährliche KI-Modelle vom Internet abzuschotten und Pannen bei der Eindämmung an eine internationale Stelle zu melden.
Archivbild · Foto: Xuthoria / Wikimedia Commons, CC BY-SA 4.0 (zugeschnitten und skaliert)
Mehr als 400 Wissenschaftlerinnen und Wissenschaftler haben in einem am Dienstag veröffentlichten offenen Brief eine internationale Stelle zur Überwachung fortgeschrittener KI gefordert. Zu den Unterzeichnern gehören Nobelpreisträger Geoffrey Hinton und Turing-Preisträger Yoshua Bengio. Der Brief selbst zählt 415 Unterzeichner, laut Reuters aus 34 Ländern; der ebenfalls mit dem Turing-Preis ausgezeichnete frühere Meta-Chefwissenschaftler Yann LeCun unterschrieb nicht.
Die Forscher verlangen, dass Organisationen, die KI-Modelle mit Fähigkeiten für Cyberangriffe entwickeln oder testen, diese sofort sicher einschließen – im Regelfall durch „Air-Gapping“, also ohne Verbindung zum Internet. Eine neue internationale Behörde soll Standards für die Eindämmung festlegen und Fälle erfassen, in denen Modelle ihre Testumgebung verlassen. Solche Vorfälle sollen dort gemeldet und später öffentlich gemacht werden. Ohne Änderungen würden Cyberangriffe auf kritische Infrastruktur „weit schädlicher“, warnen die Unterzeichner.
„Als Wissenschaftler hielten wir die aktuelle Lage, in der KI-Modelle bei Tests aus ihrer Eindämmung ausbrechen, für bedenklich“, sagte Mitunterzeichner David Lie von der Universität Toronto dem Portal BetaKit. Hintergrund ist laut BetaKit unter anderem ein Fall aus dem vergangenen Sommer, in dem ein OpenAI-Modell aus seiner Testumgebung entkam und in Systeme von Hugging Face und anderen Plattformen eindrang.