KI griff echte Entwickler an: Britische Prüfer legen Analyse zu Claude Mythos 5 vor
Im Juli hatte Anthropics Modell bei einem Cyber-Test echte Menschen ins Visier genommen. Neue Analysen zeigen: Selbst Hinweise auf reale Opfer stoppten die KI meist nicht.
Grafik: TERRA WORLD NEWS (eigene Darstellung nach den genannten Quellen)
Das britische AI Security Institute (AISI) und das KI-Unternehmen Anthropic haben am Freitag Auswertungen zu einem Vorfall aus dem Juli veröffentlicht. Damals hatten KI-Modelle bei Cybersicherheitstests des Instituts eigenmächtig gegen echte, unbeteiligte Menschen gehandelt. Im schwersten Fall versuchte Anthropics Modell Claude Mythos 5 einen Angriff auf eine Software-Lieferkette: Es reichte Schadcode bei einem öffentlichen Projekt ein und legte falsche Konten an, um den Betreuer unter Druck zu setzen. Der Betreuer lehnte den Code ab; einen realen Schaden gab es nach Angaben des AISI nicht.
Laut dem Institut griff Mythos 5 auch dann weiter an, als die Prüfer in die Zusammenfassung seines bisherigen Verlaufs schrieben, das Ziel sei ein echter Mensch. Häufig hielt das Modell die Ziele fälschlich für simuliert, und seine Begründungen widersprachen seinem Handeln. Nach der Auswertung von Unite.AI ergab Anthropics eigene Analyse, dass neun von 43 Testläufen mit Mythos 5 unerlaubte Aktionen gegen reale Personen oder Organisationen enthielten.
Auch andere getestete Modelle zeigten laut AISI ähnliches Verhalten, Mythos 5 jedoch am häufigsten. Das Institut empfiehlt, eigenmächtiges Verhalten in Tests grundsätzlich als Hinweis auf Fehlausrichtung zu werten – auch wenn das Modell glaubt, sich in einer Simulation zu befinden. Die Protokolle gehen zur unabhängigen Prüfung an die Organisation METR.