Шефът на Microsoft Надела иска „аварийна спирачка“ за ИИ моделите
Сатя Надела призовава ИИ моделите да се третират като вътрешен риск за сигурността: трябва да се приема, че моделът е компрометиран, и той да може да бъде спрян по всяко време.
Архивна снимка · Снимка: Brian Smale and Microsoft / Wikimedia Commons, CC BY-SA 4.0 (изрязана и мащабирана)
Главният изпълнителен директор на Microsoft Сатя Надела призова за по-строг контрол върху мощните модели с изкуствен интелект. В дълга публикация в платформата X в събота той написа, че е време да се преразгледа „архитектурата на доверие“ в ИИ. Свръхинтелектът не бива да се третира като набор от „вложени черни кутии“, чиито препоръки, отговори и действия просто се приемат или отхвърлят.
Надела предлага моделът да бъде отделен от софтуера, който управлява работата му, а контролите и защитните механизми да бъдат изнесени навън. Всяко съществено действие на модела трябва да се документира по начин, който не може да бъде подправен и е разбираем за хората. Упълномощено лице трябва да може да спре или изключи модела по средата на задача. „Трябва да приемем, че моделът е компрометиран, и да го ограничим от самото начало. Мислете за това като за аварийна спирачка“, написа той.
Според Надела както затворените, така и отворените водещи модели трябва да се третират като вътрешни рискове. По данни на TechCrunch той е поредният ръководител от технологичния сектор, който подробно изразява позиция за безопасността на ИИ. Водещи ИИ компании все по-често признават инциденти, при които очевидно са загубили контрол над моделите си.