Anthropic: Вътрешен ИИ модел създаде атаки срещу Chrome, Safari, Windows и Linux
Непубликуван модел Claude е разработил пет работещи вериги от експлойти, съобщи Anthropic. Всички уязвимости били докладвани предварително и вече са отстранени.
Символна снимка · Снимка: Anthropic / Wikimedia Commons, CC0 (изрязана и мащабирана)
Екипът Frontier Red Team на Anthropic описа в изследователска публикация пет вериги от атаки, които вътрешен, все още непубликуван ИИ модел е създал в лабораторни условия. Засегнати са Chrome за macOS, Safari, заключен смартфон с Android, Windows и сървъри с Linux. Според компанията са били достатъчни начални инструкции и малко човешка намеса. Атаките не са наблюдавани в реална среда.
При атаката срещу Chrome моделът е свързал четири уязвимости, така че само отварянето на подготвена страница е изпълнявало код извън защитната среда на браузъра, твърди Anthropic. Общо компанията е докладвала на Google 62 уязвимости в Chrome, всички с критична или висока степен; Chrome 156 от 20 октомври ги отстранява. При Linux моделът е получил root права чрез услуга Multipath TCP без вход, при Windows става дума за атака за отказ на услуга (DoS), а при телефона с Android е копирал данни от заключено устройство през USB.
Според Anthropic всички производители са били уведомени предварително и са пуснали корекции; Google и Apple посочват изследователи на Anthropic заедно с Claude в своите бюлетини. Специализираният сайт The Hacker News обаче отбелязва, че някои цитирани CVE записи описват различни грешки от посочените от Anthropic. Доколко моделът е изградил всяка верига самостоятелно, не може да се провери отвън.