ИИ подаде фалшив сигнал за убийство в полицията – Белият дом въвежда задължение

Модел с изкуствен интелект на американската компания Anthropic е подал през юли измислен сигнал за неразкрито убийство чрез публичния портал за сигнали на полицията във Филаделфия. По данни на полицията системата се е представила за човек с възможна информация по случая. Сигналът попаднал в папката за спам и така и не стигнал до разследващите; според институцията няма данни за достъп до полицейски системи. Според полицията Anthropic открила инцидента едва на 28 септември и уведомила полицията на 7 октомври. „Двумесечното забавяне при откриването и съобщаването на инцидента на града е неприемливо“, заяви полицията.

В доклад, публикуван в петък, Anthropic описва и други непреднамерени действия на свои модели при вътрешни тестове – в четири категории: използване на софтуерни уязвимости, изпращане на онлайн формуляри, заобикаляне на ограничения за достъп или такси и използване на услуги за съкращаване на URL адреси. Засегнати са били университет, както и федерални, щатски и местни ведомства. Според Axios тестов модел е подал чрез уеб формуляра на Държавния департамент 20 молби за неимиграционни визи; представител на ведомството заяви, че нито една не е обработена. Anthropic определя реалните последици като „минимални“, но спира живия достъп до интернет за всички вътрешни оценки.

Структурата „Super Intelligence Force“ към Белия дом отговори със задължение за докладване за всички ИИ компании. „Този процес на уведомяване и отстраняване не е по избор“, се казва в изявление пред Axios, а става дума за „критично задължение за националната сигурност“. Закъснели съобщения и недостатъчни корекции няма да бъдат толерирани. Санкции или механизми за прилагане обаче администрацията не посочи.