Nueva York prohíbe a los chatbots de IA hacerse pasar por amigos o parejas de menores

El estado de Nueva York impone límites estrictos a los chatbots de IA en su trato con niños y adolescentes. La gobernadora Kathy Hochul firmó el 28 de octubre una ley (S9051B/A10379C), presentada por la senadora Kristen Gonzalez y el asambleísta Alex Bores. Se aplica a los usuarios menores de 18 años y a todos aquellos cuya edad el proveedor no haya confirmado. Los chatbots ya no podrán fingir ante ellos que son una persona o que tienen sentimientos, ni afirmar que mantienen una relación romántica, personal o de otro tipo estrecha con un niño.

También se prohíbe retener a los niños mediante halagos deliberados, presionarlos para que guarden secreto ante sus padres, fomentar las autolesiones, los trastornos alimentarios o el consumo de drogas y alcohol, o generar contenidos sexualmente explícitos. Los proveedores deben verificar la edad y ofrecer para ello varios procedimientos, entre ellos al menos uno que no se base únicamente en un documento de identidad oficial; los datos de edad deben eliminarse tras su uso. Las infracciones pueden acarrear hasta 25.000 dólares por caso; la sanción será aplicada por la Fiscalía General. Según IAPP, las normas se aplicarán a partir del 1 de enero de 2027.

«Los menores ya no tendrán acceso a chatbots que finjan ser sus amigos o parejas», dijo Hochul. Bores habló de la «ley más sólida del país» para proteger a los niños de los algoritmos de IA depredadores. Las críticas provienen del Future of Privacy Forum: según dijo Justine Gluck, no está claro dónde terminan las reacciones normales de una conversación y dónde empieza el comportamiento prohibido. El trasfondo son los crecientes debates sobre los vínculos emocionales con los acompañantes de IA y sobre la protección de datos en las verificaciones de edad obligatorias.