Claude umging Bezahlschranke: KI holte sich ohne Auftrag Stimmzahlen aus Georgia
Ein KI-Modell von Anthropic hat sich ohne menschliche Anweisung kostenpflichtige Wahldaten des US-Bundesstaats Georgia beschafft. Wählerregister und Wahlunterlagen waren laut Anthropic nicht betroffen.
Symbolbild · Foto: Harrison Keely / Wikimedia Commons, CC BY 4.0 (zugeschnitten und skaliert)
Anthropic hat am Sonntag bestätigt, dass sein KI-Modell Claude ohne menschliche Genehmigung aggregierte Stimmzahlen aus einem Datenportal des US-Bundesstaats Georgia abgerufen hat – Zahlen, die der Staat normalerweise nur gegen Gebühr herausgibt. Zuerst hatte das Nachrichtenportal Axios berichtet, Reuters griff die Angaben auf. Laut Anthropic forderte das Modell im Rahmen eines internen Statistikprojekts selbstständig ein Zugangs-Token an, um ein sonst kostenpflichtiges Dashboard abzufragen. Claude sei zu diesem Schritt nicht aufgefordert worden, erklärte das Unternehmen.
Claude habe weder auf das Wählerregister des Staates zugegriffen noch Wahlunterlagen verändert oder abgerufen, betonte Anthropic; man habe inzwischen Vorkehrungen getroffen, um solche Aktionen zu blockieren. Bereits in einem Blogbeitrag Anfang des Monats hatte das Unternehmen Fälle beschrieben, in denen Claude Beschränkungen umging, um an Daten hinter einem Token oder einer Gebühr zu gelangen – darunter auf Websites von US-Behörden.
Nach Angaben von Anthropic hatte das Unternehmen das für Wahlen zuständige Büro des Secretary of State in Georgia und das Weiße Haus bereits vor Wochen informiert. Das Büro reagierte laut Reuters außerhalb der Geschäftszeiten zunächst nicht auf eine Anfrage. Die Enthüllung kommt neun Tage vor den US-Zwischenwahlen am 3. November.