New York verbietet KI-Chatbots, sich Minderjährigen als Freund oder Partner auszugeben

Der US-Bundesstaat New York zieht KI-Chatbots enge Grenzen im Umgang mit Kindern und Jugendlichen. Gouverneurin Kathy Hochul unterzeichnete am 28. Oktober ein Gesetz (S9051B/A10379C), eingebracht von Senatorin Kristen Gonzalez und dem Abgeordneten Alex Bores. Es gilt für Nutzerinnen und Nutzer unter 18 Jahren und für alle, deren Alter der Anbieter nicht bestätigt hat. Chatbots dürfen ihnen gegenüber nicht mehr vorgeben, ein Mensch zu sein oder Gefühle zu haben, und keine romantische, persönliche oder sonstige enge Beziehung zu einem Kind behaupten.

Verboten wird außerdem, Kinder mit gezielter Schmeichelei bei der Stange zu halten, sie zur Geheimhaltung gegenüber den Eltern zu drängen, Selbstverletzung, Essstörungen oder Drogen- und Alkoholkonsum zu fördern oder sexuell explizite Inhalte zu erzeugen. Anbieter müssen das Alter prüfen und dafür mehrere Verfahren anbieten, darunter mindestens eines, das nicht allein auf einem amtlichen Ausweis beruht; die Altersdaten sind nach Gebrauch zu löschen. Bei Verstößen drohen bis zu 25.000 Dollar pro Fall, durchgesetzt von der Generalstaatsanwaltschaft. Die Regeln gelten laut IAPP ab dem 1. Januar 2027.

„Minderjährige werden keinen Zugang mehr zu Chatbots haben, die vorgeben, ihre Freunde oder Partner zu sein“, sagte Hochul. Bores sprach vom „stärksten Gesetz im Land“ zum Schutz von Kindern vor räuberischen KI-Algorithmen. Kritik kommt vom Future of Privacy Forum: Es sei unklar, wo normale Gesprächsreaktionen endeten und verbotenes Verhalten beginne, sagte Justine Gluck. Hintergrund sind wachsende Debatten über emotionale Bindungen an KI-Begleiter und über Datenschutz bei verpflichtenden Altersprüfungen.