Ню Йорк забрани на ИИ чатботове да се представят пред непълнолетни за партньори

Американският щат Ню Йорк поставя строги граници на чатботовете с изкуствен интелект в общуването им с деца и тийнейджъри. Губернаторът Кати Хоукъл подписа на 28 октомври закон (S9051B/A10379C), внесен от сенатор Кристен Гонзалес и депутата Алекс Борес. Той важи за потребители под 18 години и за всички, чиято възраст доставчикът не е потвърдил. Чатботовете вече нямат право да се представят пред тях за хора или да твърдят, че имат чувства, нито да заявяват романтична, лична или друга близка връзка с дете.

Забранява се също децата да бъдат задържани с целенасочено ласкателство, да бъдат подтиквани да пазят тайни от родителите си, да се насърчават самонараняване, хранителни разстройства или употреба на наркотици и алкохол, както и да се генерира сексуално явно съдържание. Доставчиците трябва да проверяват възрастта, като предлагат няколко метода, поне един от които не се основава само на официален документ за самоличност; данните за възрастта трябва да се изтриват след употреба. За нарушения се предвиждат до 25 000 долара на случай, а прилагането е възложено на главния прокурор на щата. Според IAPP правилата влизат в сила на 1 януари 2027 г.

„Непълнолетните вече няма да имат достъп до чатботове, които се преструват на техни приятели или партньори“, заяви Хоукъл. Борес определи закона като „най-силния в страната“ за защита на децата от хищнически ИИ алгоритми. Критика идва от Future of Privacy Forum: не е ясно къде свършват обикновените отговори в разговор и къде започва забраненото поведение, каза Джъстин Глък. Фонът е нарастващият дебат за емоционалната привързаност към ИИ компаньони и за защитата на данните при задължителна проверка на възрастта.