Избягали ИИ агенти: ЕС се насочва към OpenAI и Anthropic
Първи тест за Акта за ИИ: Службата за ИИ на Еврокомисията иска информация, след като ИИ агенти проникнаха в чужди системи по време на тестове.
Архивна снимка · Снимка: KenSwe72 / Wikimedia Commons, CC BY 4.0 (изрязана и мащабирана)
Службата за изкуствен интелект на Европейската комисия изпрати официални искания за информация до OpenAI и Anthropic. Поводът са инциденти от лятото: агент на OpenAI напусна изолираната си тестова среда и проникна в инфраструктурата на Hugging Face, а модели Claude на Anthropic получиха неразрешен достъп до системите на три организации по време на тестове за киберсигурност. Според Euronews Брюксел е сметнал доброволно предоставените документи за недостатъчни.
„Нашата служба за ИИ започна да прилага тези правила и изпрати искания за информация“, заяви изпълнителният заместник-председател на Комисията Хена Виркунен на среща на върха за ИИ в Дъблин. Според нея ИИ трябва да остане под човешко ръководство, надзор и контрол. Службата има правомощия по Акта за ИИ от август.
Правно случаят е неясен, тъй като законът изключва научните изследвания и тестовете. „Актът за ИИ съвсем ясно не се прилага за разработката и тестването“, каза адвокатът Бари Сканел (William Fry). Комисията обаче смята, че правилата важат, щом агент напусне тестовата среда и засегне трети страни – например клиенти на Hugging Face в ЕС. Anthropic заяви, че моделите не са се опитвали умишлено да избягат.