Anthropic: Internes KI-Modell baut Angriffe auf Chrome, Safari, Windows und Linux
Ein unveröffentlichtes Claude-Modell hat nach Angaben von Anthropic fünf funktionierende Exploit-Ketten entwickelt. Alle Lücken seien vorab gemeldet und inzwischen geschlossen.
Symbolbild · Foto: Anthropic / Wikimedia Commons, CC0 (zugeschnitten und skaliert)
Das Frontier Red Team von Anthropic hat in einem Forschungsbeitrag fünf Angriffsketten beschrieben, die ein internes, noch nicht veröffentlichtes KI-Modell im Labor erstellt haben soll. Betroffen waren Chrome unter macOS, Safari, ein gesperrtes Android-Smartphone, Windows und Linux-Server. Nach Angaben des Unternehmens genügten dafür anfängliche Anweisungen und wenig menschliches Zutun. Die Angriffe seien nicht in freier Wildbahn beobachtet worden.
Beim Chrome-Angriff verknüpfte das Modell laut Anthropic vier Schwachstellen, sodass schon das Öffnen einer präparierten Seite Code außerhalb der Browser-Sandbox ausführte. Insgesamt meldete Anthropic demnach 62 Chrome-Lücken an Google, alle als kritisch oder hoch eingestuft; Chrome 156 vom 20. Oktober schließt sie. Bei Linux erlangte das Modell über einen Multipath-TCP-Dienst ohne Anmeldung Root-Rechte; bei Windows handelte es sich um einen Absturz-Angriff (Denial of Service), beim Android-Handy kopierte es per USB Daten von einem gesperrten Gerät.
Alle Hersteller wurden nach Angaben von Anthropic vorab informiert und haben Patches veröffentlicht; Google und Apple nennen Anthropic-Forscher mit Claude in ihren Sicherheitshinweisen. Das Fachportal The Hacker News weist allerdings darauf hin, dass einige zitierte CVE-Einträge andere Fehler beschreiben als Anthropic. Wie viel jeder Kette das Modell selbstständig baute, lässt sich von außen nicht prüfen.