Anthropic лобира в Конгреса за свой закон за ИИ – спиране само при риск за милиарди
Според Politico Anthropic е представила на американски законодатели проект: модел с ИИ да може да бъде спрян само при заплаха от щети над 1 млрд. долара или над 50 жертви.
Символна снимка · Снимка: Architect of the Capitol / Wikimedia Commons, Public domain (изрязана и мащабирана)
Компанията за изкуствен интелект Anthropic е представила поверително на американски законодатели собствен проект на закон за сигурността на големите модели с ИИ, съобщава Politico. Според него правителството би могло да спре т.нар. фронтиерен модел само при „предвидим, непосредствен“ риск от щети над един милиард долара или от смърт или тежки наранявания на повече от 50 души. Обхванати са само три сценария: биологични оръжия, модел, който излиза извън контрола на създателите си, и кибератаки.
Според проекта независими оценители ще се регистрират в Министерството на търговията, ще проверяват моделите периодично и ще съобщават за подобен риск в рамките на 72 часа. Те ще могат да бъдат плащани от проверяваните компании, ако възнаграждението не зависи от резултата. Спиране на модел ще може да поиска само Министерството на търговията от федерален съдия във Вашингтон, а на други ведомства това изрично ще бъде забранено. Проектът би отменил и някои изисквания на щатите. Разработчиците ще трябва да имат планове за сигурност, да публикуват доклади за прозрачност и да защитават сигналоподаватели.
Говорител на Anthropic е заявил според Interesting Engineering: „These are sensible policies we believe Congress should act on.“ („Това са разумни политики, по които смятаме, че Конгресът трябва да действа.“) Засега нито един законодател не е подкрепил публично проекта. В Конгреса има и конкурентни предложения, сред които FRONTIER Act на членовете на Камарата на представителите Лори Трейхан и Джей Обернолти. Сенаторката Мария Кантуел и някои организации за безопасност искат по-строг държавен контрол от подхода на Anthropic.