Anthropic: малки ИИ модели скоро може да се разпространяват сами по ТВ боксове
Изследователи пуснаха отворен модел на 15 евтини ТВ бокса. Още тази година малки модели може да успеят да се копират сами без център за данни – макар и бавно.
Снимка: TGspot.co.il / Wikimedia Commons, CC BY-SA 4.0 (изрязана и мащабирана)
„Frontier Red Team“ на Anthropic публикува на 12 октомври изследване, според което малки, свободно достъпни ИИ модели може би са само на месеци от способността сами да се разпространяват по евтини свързани устройства – изобщо без център за данни. Авторите Уилям Джоу и Даниел Фрийман пуснаха например отворения модел Gemma4-26B-A4B, разпределен на 15 Android ТВ бокса по около 55 долара всеки, но само с около 0,3 до 0,39 токена в секунда.
В изолирана тестова мрежа отвореният модел GLM-5.2 се копира на всичките осем възела в четири от пет опита. Модели с до 30 милиарда параметъра се справят с много отделни стъпки, но често се провалят при свързването им. „Ако малките модели се подобряват с историческото си темпо, те ще достигнат това ниво на способности до края на тази година“, пишат изследователите. Подобен рояк би бил труден за изключване, защото няма централен прекъсвач, но би се разпространявал бавно.
Anthropic подчертава ограниченията: стъпката с хакването в теста умишлено е била тривиална, затова резултатите се смятат за горна граница. Като противодействие авторите посочват карантина от интернет доставчиците: при по-ранния зловреден софтуер Mirai така за 14 дни са били премахнати 92 процента от заразите. Те очакват карантината първоначално да е подобно ефективна и срещу ИИ репликатор.