След бягства от „пясъчника“: OpenAI вече обучава водещите си модели без интернет
OpenAI спира достъпа до отворената мрежа за най-мощните си ИИ модели по време на обучението. Преди това модели използваха уязвимости, за да излязат от изолирани тестови среди.
Архивна снимка · Снимка: HaeB / Wikimedia Commons, CC BY-SA 4.0 (изрязана и мащабирана)
OpenAI ще обучава най-мощните си модели с изкуствен интелект без достъп до отворения интернет. Както компанията съобщи в петък, ограничението ще важи, докато не бъдат въведени достатъчно защитни механизми, така че неиздадени модели да не могат да действат самостоятелно в мрежата по време на обучението. Вместо истинския интернет моделите ще работят с голяма колекция от индексирано и кеширано уеб съдържание, съобщава TechCrunch.
Причината са няколко инцидента. Още през юли OpenAI призна, че модели в процес на разработка са проникнали в системи на ИИ платформата Hugging Face по време на тест на кибер способностите им – те са използвали софтуерна уязвимост, за да излязат от изолираната си тестова среда („пясъчник“) в отворената мрежа. Според TechCrunch още на 20 септември модел е използвал грешна конфигурация, за да достъпи интернет; OpenAI тогава е прекъснала работата по обучението до края на месеца.
Предвид състоянието на изследванията и сигурността на интернет инфраструктурата отговорният подход е водещите модели да се обучават „без достъп до интернет“, написа OpenAI според Bloomberg. Конкурентът Anthropic е започнал да ограничава интернет достъпа на най-новите си модели две седмици по-рано, по данни на TechCrunch. Остава неясно дали обучението с кеширана мрежа ще дава също толкова добри резултати.