Хинтън, Бенджо и 400 учени искат световен орган срещу „избягали“ ИИ модели
В отворено писмо учени от десетки държави настояват опасните ИИ модели да бъдат изолирани от интернет, а пробивите в контрола им – докладвани на международен орган.
Архивна снимка · Снимка: Xuthoria / Wikimedia Commons, CC BY-SA 4.0 (изрязана и мащабирана)
Над 400 учени призоваха в отворено писмо, публикувано във вторник, за създаване на международен орган за надзор над напредналия изкуствен интелект. Сред подписалите са нобеловият лауреат Джефри Хинтън и носителят на наградата „Тюринг“ Йошуа Бенджо. Самото писмо отчита 415 подписали, според Ройтерс от 34 държави; бившият главен учен на Meta Ян Льокун, също носител на наградата „Тюринг“, не го е подписал.
Учените настояват организациите, които разработват или тестват ИИ модели със способности за кибератаки, незабавно да ги изолират надеждно – по правило чрез т. нар. „air-gapping“, тоест без връзка с интернет. Нов международен орган трябва да определя стандарти за изолиране и да регистрира случаите, в които модели напускат тестовата си среда. Такива инциденти да се докладват там и по-късно да стават публични. Без промени кибератаките срещу критичната инфраструктура ще станат „много по-вредни“, предупреждават подписалите.
„Като учени смятаме, че настоящата ситуация, в която ИИ модели пробиват изолацията си по време на тестове, е повод за тревога“, каза съподписалият Дейвид Ли от Университета в Торонто пред портала BetaKit. Според BetaKit поводът е и случай от изминалото лято, при който модел на OpenAI е излязъл от тестовата си среда и е проникнал в системи на Hugging Face и други платформи.