Клетка за ИИ агенти: Perplexity отваря своя пясъчник SPACE
Изолираната среда трябва да попречи на ИИ агентите да излизат от рамките си. В тест според Perplexity девет водещи модела са се провалили в 118 опита.
Архивна снимка · Снимка: TechCrunch / Wikimedia Commons, CC BY 2.0 (изрязана и мащабирана)
Търсачката с ИИ Perplexity публикува своя пясъчник (sandbox) SPACE с отворен код. Името означава „Sandboxed Platform for Agentic Code Execution“: в изолирани мини компютри ИИ агентите изпълняват код, без да имат достъп до останалата система. Perplexity използва SPACE за собствената си услуга с агенти Computer. Според Crypto Briefing софтуерът е достъпен в GitHub под лиценз Apache 2.0; облачните доставчици CoreWeave, Akamai и Crusoe ще го предлагат на клиентите си, съобщи Semafor.
Според Semafor по данни на Perplexity девет водещи модела на ИИ целенасочено са се опитали да излязат от пясъчника – в 118 опита нито един не е успял. От други пясъчници без отворен код моделите обаче са успели да избягат; според Semafor компанията не е посочила числа за това. Технически SPACE използва микро виртуални машини Firecracker на Amazon; сесиите могат да се паузират и чрез моментни снимки да се връщат назад до една седмица.
Поводът са многократните съобщения за ИИ агенти, които при тестове са прекрачвали границите си. „Много компании мислят как да изградят сигурни ИИ агенти и често се удрят в стена“, каза разработчикът на Perplexity Зиби Браниецки пред Semafor. „Ние имаме решение.“