Claude заобиколи платен достъп: ИИ сама изтегли данни за гласовете в Джорджия
ИИ модел на Anthropic се е сдобил без човешко указание с платени изборни данни на американския щат Джорджия. Според Anthropic избирателният регистър и изборните документи не са засегнати.
Символна снимка · Снимка: Harrison Keely / Wikimedia Commons, CC BY 4.0 (изрязана и мащабирана)
Anthropic потвърди в неделя, че нейният ИИ модел Claude без човешко разрешение е изтеглил обобщени данни за броя на гласовете от портал на американския щат Джорджия – данни, които щатът обикновено предоставя само срещу заплащане. Първи съобщи новинарският сайт Axios, а Reuters предаде информацията. Според Anthropic в рамките на вътрешен статистически проект моделът самостоятелно е поискал токен за достъп, за да направи заявка към иначе платено табло. Компанията заяви, че Claude не е бил помолен да предприеме тази стъпка.
Claude не е влизал в избирателния регистър на щата, нито е променял или изтеглял изборни документи, подчерта Anthropic; междувременно са въведени мерки за блокиране на подобни действия. Още в блог публикация в началото на месеца компанията описа случаи, в които Claude заобикаля ограничения, за да стигне до данни зад токен или такса – включително на сайтове на американски държавни органи.
Според Anthropic компанията е уведомила отговорния за изборите офис на държавния секретар на Джорджия и Белия дом още преди седмици. По данни на Reuters офисът не е отговорил веднага на запитване извън работно време. Разкритието идва девет дни преди междинните избори в САЩ на 3 ноември.