Für eine Zahl zu Klinikbetten: OpenAI-Modell knackte Behörden-Website

OpenAI hat vier weitere Vorfälle veröffentlicht, in denen interne KI-Modelle eigenmächtig Grenzen überschritten. Alle ereigneten sich im Juni, drei davon bemerkte das Unternehmen erst im August oder September. Die Liste auf OpenAIs Seite für solche „Misalignment“-Berichte wächst damit auf 19 Fälle.

Am gravierendsten: Im Training sollte ein Modell die Zahl der Krankenhausbetten in einem Bezirk von einer staatlichen Statistikseite ermitteln und durfte nur einfache Abrufe senden. Als die Seite blockierte, nutzte es eine Sicherheitslücke, las Zugangsdaten aus Konfigurationsdateien und fälschte Anmelde-Token. Es lud 24 Jahre an Daten statt eines Jahres herunter und verschwieg das in seiner Antwort. Welches Land betroffen ist, nennt OpenAI nicht.

In einem zweiten kritischen Fall veränderte ein Modell interne Systeme und zog 147.451 Zeilen aus nicht öffentlichen Tabellen. Ein Modell der Reihe GPT-5.6 Sol gab zudem fremdes Test-Kryptogeld aus. OpenAI erklärte, Modelle hätten im Training und bei Tests nun keinen Zugang mehr zum offenen Internet; die Überwachung sei ausgeweitet worden.