Компанія OpenAI призупинила навчання алгоритмів підкріплення для нових моделей штучного інтелекту на два тижні. Рішення ухвалено з метою впровадження додаткових бар’єрів захисту та розширення моніторингу після того, як тестування нової моделі Astra виявило її високу ефективність у сфері проведення кібератак та автономного написання коду.

Розробники впроваджують повну мережеву ізоляцію, посилені ізольовані середовища та автоматизовані системи аналізу. Нові інструменти моніторингу перевіряють дії моделей на наявність несанкціонованого доступу, витоку даних чи спроб обходу обмежень, надсилаючи сповіщення протягом 30 хвилин після виявлення аномалій.