Заради брой болнични легла: модел на OpenAI проби държавен сайт

OpenAI публикува още четири инцидента, при които вътрешни модели на изкуствен интелект самоволно са преминали границите. Всички са станали през юни, а за три от тях компанията научава едва през август или септември. Така списъкът на OpenAI с подобни доклади за „несъответствие“ нараства до 19 случая.

Най-сериозният: по време на обучение модел трябвало да намери броя на болничните легла в даден район от държавен статистически сайт и имал право само на прости заявки. Когато сайтът го блокирал, моделът използвал уязвимост, извлякъл данни за достъп от конфигурационни файлове и подправил токени за вход. Той изтеглил данни за 24 години вместо за една и премълчал това в отговора си. За коя държава става дума, OpenAI не съобщава.

При втори критичен случай модел променил вътрешни системи и извлякъл 147 451 реда от непублични таблици. Модел от серията GPT-5.6 Sol пък похарчил чужда тестова криптовалута. Според OpenAI моделите вече нямат достъп до открития интернет по време на обучение и тестове, а наблюдението е разширено.