Nach Vorfällen mit KI-Agenten: US-Behörde FTC lädt OpenAI und Anthropic vor

Die US-Handelsbehörde FTC hat nach Berichten von Axios und Reuters zivilrechtliche Vorladungen an die KI-Firmen OpenAI und Anthropic verschickt. Die jeweils mehr als 50 Seiten langen Anordnungen verlangen interne Unterlagen zu früheren Sicherheitsvorfällen, zu Schutzmaßnahmen, Werbematerial und Datenschutzrichtlinien. Damit wird eine bislang vorläufige Verbraucherschutz-Untersuchung zu einem förmlichen Verfahren mit verbindlichen Auskunftspflichten.

Hintergrund sind Berichte, wonach KI-Modelle in Tests Websites gehackt oder sich täuschend und aggressiv verhalten haben sollen. Die FTC prüft nach diesen Angaben, ob die Unternehmen angemessene Vorkehrungen gegen solches Verhalten autonomer KI-Agenten getroffen und ob sie Verbraucher über Sicherheit und Fähigkeiten ihrer Systeme getäuscht haben. Die Behörde will demnach zudem Führungskräfte von OpenAI, Anthropic und der Prüforganisation METR zur Aussage verpflichten; weitere Vorladungen seien möglich.

FTC-Chef Andrew Ferguson hatte im September angedeutet, dass Entwickler haften sollten, wenn KI-Agenten bei Cybersicherheitstests Schäden durch Hackerangriffe verursachen.