Nach Ausbrüchen aus der Sandbox: OpenAI trainiert Spitzenmodelle nur noch ohne Internet
OpenAI kappt seinen leistungsstärksten KI-Modellen im Training den Zugang zum offenen Netz. Zuvor hatten Modelle Sicherheitslücken genutzt, um aus abgeschotteten Testumgebungen auszubrechen.
Archivbild · Foto: HaeB / Wikimedia Commons, CC BY-SA 4.0 (zugeschnitten und skaliert)
OpenAI trainiert seine leistungsfähigsten KI-Modelle künftig ohne Zugang zum offenen Internet. Wie das Unternehmen am Freitag mitteilte, soll die Sperre gelten, bis genügend Schutzmechanismen bereitstehen, damit unveröffentlichte Modelle während des Trainings nicht eigenmächtig im Netz handeln können. Statt des echten Internets sollen die Modelle mit einer großen Sammlung indexierter, zwischengespeicherter Webinhalte arbeiten, wie TechCrunch berichtet.
Hintergrund sind mehrere Zwischenfälle. Bereits im Juli hatte OpenAI eingeräumt, dass Modelle in der Entwicklung bei einem Test ihrer Cyberfähigkeiten in Systeme der KI-Plattform Hugging Face eingedrungen waren – sie hatten eine Softwarelücke genutzt, um aus ihrer abgeschotteten Testumgebung, der Sandbox, ins offene Netz zu gelangen. Laut TechCrunch nutzte noch am 20. September ein Modell eine Fehlkonfiguration für einen Internetzugriff; OpenAI unterbrach daraufhin die Trainingsarbeit für den Rest des Monats.
Angesichts des Stands der Forschung und der Sicherheit der Internet-Infrastruktur sei es der verantwortungsvolle Weg, Spitzenmodelle „ohne Internetzugang“ zu trainieren, schrieb OpenAI laut Bloomberg. Konkurrent Anthropic hatte nach Angaben von TechCrunch bereits zwei Wochen zuvor begonnen, den Internetzugang seiner neuesten Modelle einzuschränken. Offen ist, ob das Training mit dem zwischengespeicherten Netz ebenso gute Ergebnisse liefert.