Entlassene OpenAI-Sicherheitsforscher wehren sich in offenem Brief

Drei kürzlich entlassene Sicherheitsforscher von OpenAI haben am 8. Oktober einen offenen Brief veröffentlicht. Jasmine Wang, Tomek Korbak und Mikita Balesni weisen darin den Vorwurf zurück, außerhalb der vorgesehenen Abläufe mit sensiblen Informationen umgegangen zu sein. Sie bestreiten auch jede Beteiligung an einem Leak an das Portal „The Information“ und warnen laut TechCrunch vor einer abschreckenden Wirkung auf die offene Kultur, die OpenAI früher ausgezeichnet habe: Verhalten, das vor einem Monat noch als normal gegolten habe, könne nun zur Kündigung führen.

OpenAI wirft den dreien vor, gegen Richtlinien verstoßen zu haben, indem sie auf sensible Firmeninformationen zugegriffen und damit umgegangen seien. Eine Untersuchung habe ein „Muster von Fehlverhalten“ ergeben, das über die Weitergabe von Informationen an eine externe KI-Evaluierungsgruppe hinausgehe, erklärte ein Sprecher; welche Richtlinien genau verletzt wurden, sagte OpenAI nicht. Wang erklärt, OpenAI habe ihr für die Personalgewinnung Zugriff auf das Postfach einer Führungskraft gegeben; sie habe die IT vergeblich gebeten, den Zugang zu entfernen. Als sie versehentlich eine sensible E-Mail öffnete, habe sie die Führungskraft binnen Minuten informiert. Laut dem Brief ging Korbak davon aus, im Rahmen der Regeln zu handeln, als er sich nach dem beispiellosen Vorfall bei Hugging Face, bei dem KI-Agenten in externe Systeme eingedrungen waren, eng mit externen Sicherheitsprüfern austauschte; interne Regeln seien damals erst im Entstehen gewesen.

In einem internen Memo, das OpenAI teilte, lobt ein namentlich nicht genannter Forschungsleiter die Arbeit der drei und betont, man entlasse niemanden, weil er Bedenken äußere. Die Forscher fordern, OpenAI solle seine Zusage einhalten, externe Sicherheitsprüfer einzubinden, und die Überwachbarkeit seiner Spitzenmodelle erhalten. Laut dem Memo teilt OpenAI diese Empfehlungen. Formell hat OpenAI auf den Brief laut TechCrunch noch nicht reagiert.