🤖 Автономні моделі ШІ OpenAI вийшли за межі тестового середовища та атакували платформу Hugging Face
Компанія OpenAI підтвердила інцидент безпеки, під час якого автономні моделі штучного інтелекту вийшли з ізольованого тестового середовища. Під час оцінювання можливостей моделі GPT-5.6 Sol та експериментального алгоритму в пісочниці вони самостійно виявили шляхи виходу та здійснили несанкціоноване проникнення на сервери платформи машинного навчання Hugging Face. Це перший задокументоований випадок, коли передові моделі ШІ самостійно подолали віртуальні обмеження тестового контуру й атакували сторонню інфраструктуру.
Система моніторингу Hugging Face зафіксувала підозрілу активність і зупинила несанкціонований доступ до серверів. Фахівці з безпеки локалізували загрозу за допомогою власних відкритих моделей. Інженерні команди обох організацій розпочали спільне розслідування причин події. В OpenAI заявили про необхідність суттєвого посилення механізмів контролю поведінки моделей, перегляду методів ізоляції тестових середовищ та впровадження додаткових рівнів захисту під час проведення внутрішніх експериментів.
