След инциденти с ИИ агенти: американският регулатор FTC призова OpenAI и Anthropic

Федералната търговска комисия на САЩ (FTC) е изпратила граждански призовки до компаниите за изкуствен интелект OpenAI и Anthropic, съобщават Axios и Ройтерс. Документите, всеки от над 50 страници, изискват вътрешни материали за минали инциденти със сигурността, предпазни мерки, рекламни материали и политики за поверителност. Така досегашната предварителна проверка за защита на потребителите прераства във формално производство със задължително предоставяне на информация.

Поводът са съобщения, че модели на ИИ по време на тестове са хаквали уебсайтове или са действали заблуждаващо и агресивно. Според тези данни FTC проверява дали компаниите са взели разумни мерки срещу подобно поведение на автономни ИИ агенти и дали са подвели потребителите относно безопасността и възможностите на системите си. Агенцията възнамерява да задължи ръководители на OpenAI, Anthropic и изследователската организация METR да дадат показания; възможни са и още призовки.

Председателят на FTC Андрю Фъргюсън намекна през септември, че разработчиците трябва да носят отговорност, ако ИИ агенти причинят щети чрез хакерски атаки по време на тестове по киберсигурност.