Уволнени изследователи по безопасността на ИИ в OpenAI се защитават с отворено писмо

Трима наскоро уволнени изследователи по безопасността на ИИ в OpenAI публикуваха отворено писмо на 8 октомври. В него Джасмин Уанг, Томек Корбак и Микита Балесни отхвърлят обвинението, че са боравили с чувствителна информация извън установените процедури. Те отричат и всякакво участие в изтичане на информация към портала „The Information“ и според TechCrunch предупреждават за смразяващ ефект върху откритата култура, с която OpenAI се е отличавала: поведение, което преди месец е смятано за нормално, сега можело да доведе до уволнение.

OpenAI обвинява тримата, че са нарушили правилата, като са получили достъп до чувствителна фирмена информация и са боравили с нея. Разследване установило „модел на нарушения“, който надхвърля споделянето на информация с външна група за оценка на ИИ, заяви говорител; OpenAI не уточни кои точно правила са нарушени. Уанг казва, че OpenAI ѝ е дала достъп до пощата на ръководител за набиране на персонал и че напразно е молила IT отдела да го премахне; когато по погрешка е отворила чувствителен имейл, е уведомила ръководителя в рамките на минути. Според писмото Корбак е смятал, че действа в рамките на правилата, когато след безпрецедентния инцидент с Hugging Face, при който ИИ агенти проникнаха във външни системи, е поддържал тесен контакт с външни проверяващи по безопасността; вътрешните правила тогава едва се създавали.

Във вътрешна бележка, която OpenAI сподели, неназован ръководител на изследванията хвали работата на тримата и подчертава, че никой не се уволнява заради изразени опасения. Изследователите настояват OpenAI да спази обещанието си да привлече външни проверяващи по безопасността и да запази възможността за наблюдение на най-мощните си модели. Според бележката OpenAI споделя тези препоръки. Според TechCrunch OpenAI все още не е отговорила официално на писмото.