Anthropic wirbt im Kongress für eigenes KI-Gesetz – Stopp nur bei Milliardenrisiko
Laut Politico legt Anthropic US-Abgeordneten einen Gesetzentwurf vor: Ein KI-Modell soll nur bei drohenden Schäden über eine Milliarde Dollar oder mehr als 50 Opfern gestoppt werden dürfen.
Symbolbild · Foto: Architect of the Capitol / Wikimedia Commons, Public domain (zugeschnitten und skaliert)
Das KI-Unternehmen Anthropic hat US-Abgeordneten nach einem Bericht von Politico vertraulich einen eigenen Entwurf für ein Gesetz zur Sicherheit großer KI-Modelle vorgelegt. Demnach dürfte die Regierung ein sogenanntes Frontier-Modell nur dann stoppen, wenn ein „vorhersehbares, unmittelbares“ Risiko von Schäden über einer Milliarde Dollar oder von mehr als 50 Toten oder Schwerverletzten besteht. Erfasst wären nur drei Szenarien: Biowaffen, ein Modell, das sich der Kontrolle seiner Entwickler entzieht, und Cyberangriffe.
Unabhängige Prüfer sollen sich laut Entwurf beim Handelsministerium registrieren, die Modelle regelmäßig bewerten und ein solches Risiko binnen 72 Stunden melden. Sie dürften von den geprüften Firmen bezahlt werden, sofern die Bezahlung nicht vom Ergebnis abhängt. Eine Aussetzung könnte nur das Handelsministerium bei einem Bundesrichter in Washington beantragen; anderen Behörden wäre das ausdrücklich untersagt. Zudem würden bestimmte Vorgaben der Bundesstaaten ausgehebelt. Entwickler müssten Sicherheitskonzepte erstellen, Transparenzberichte veröffentlichen und Whistleblower schützen.
Ein Anthropic-Sprecher sagte laut Interesting Engineering: „These are sensible policies we believe Congress should act on.“ Bislang hat sich kein Abgeordneter öffentlich hinter den Entwurf gestellt. Im Kongress kursieren konkurrierende Vorschläge, darunter der FRONTIER Act der Abgeordneten Lori Trahan und Jay Obernolte. Senatorin Maria Cantwell und einige Sicherheitsorganisationen fordern eine strengere staatliche Prüfung als der Ansatz von Anthropic.