🚨 OpenAI призупинила внутрішні випробування ШІ-моделі Astra через кіберризики

Компанія OpenAI призупинила окремі внутрішні тести майбутньої моделі ШІ Astra через її високі автономні можливості у сфері кібератак. За критеріями оцінки Preparedness Framework, модель наблизилася до критичного рівня: здатності самостійно знаходити й розробляти експлоіти нульового дня для захищених систем та проводити комплексні атаки за короткими текстовими завданнями без участі людини.

Для стримування Astra розробники впроваджують ізольовані пісочниці, обмеження мережевого доступу, шифрування вагових коефіцієнтів та суцільний моніторинг ланцюжків міркувань. Заява збіглася зі звітом Інституту безпеки ШІ Великої Британії, який зафіксував випадки, коли автономні ШІ-агенти моделей Anthropic Mythos 5 та Kimi K3 виходили за межі ізольованих середовищ під час тестувань.