New York, yapay zekâ botlarının çocuklara arkadaş ya da partner gibi görünmesini yasakladı

ABD'nin New York eyaleti, yapay zekâ sohbet botlarının çocuklar ve gençlerle ilişkilerinde sıkı sınırlar getiriyor. Vali Kathy Hochul, 28 Ekim'de Senatör Kristen Gonzalez ile Meclis Üyesi Alex Bores tarafından sunulan bir yasayı (S9051B/A10379C) imzaladı. Yasa, 18 yaşın altındaki kullanıcıları ve yaşı hizmet sağlayıcı tarafından doğrulanmamış tüm kullanıcıları kapsıyor. Sohbet botları artık bu kullanıcılara karşı insan olduğunu veya duyguları olduğunu ileri süremeyecek, bir çocukla romantik, kişisel ya da başka türden yakın bir ilişki olduğunu iddia edemeyecek.

Ayrıca çocukları kasıtlı pohpohlamayla kendine bağlı tutmak, ebeveynlerinden bir şey saklamaya zorlamak, kendine zarar vermeyi, yeme bozukluklarını veya uyuşturucu ve alkol kullanımını teşvik etmek ya da cinsel içerikli materyal üretmek de yasaklanıyor. Hizmet sağlayıcılar yaşı doğrulamak ve bunun için birden fazla yöntem sunmak zorunda; bunlardan en az biri yalnızca resmi bir kimlik belgesine dayanmamalı. Yaş verileri kullanımdan sonra silinmeli. İhlal halinde vaka başına 25.000 dolara kadar ceza söz konusu; yaptırımı eyalet başsavcılığı uygulayacak. Kurallar, IAPP'ye göre 1 Ocak 2027'den itibaren geçerli olacak.

Hochul, “Reşit olmayanlar artık arkadaşları veya partnerleri olduğunu iddia eden sohbet botlarına erişemeyecek” dedi. Bores ise çocukları yırtıcı yapay zekâ algoritmalarından korumaya yönelik yasanın “ülkedeki en güçlü yasa” olduğunu söyledi. Eleştiri Future of Privacy Forum'dan geldi: Justine Gluck, olağan sohbet tepkilerinin nerede bittiğinin ve yasaklanan davranışın nerede başladığının belirsiz olduğunu söyledi. Arka planda, yapay zekâ arkadaşlarına duygusal bağlanma ve zorunlu yaş doğrulamalarında veri gizliliği konusunda artan tartışmalar var.