🤖 OpenAI зафіксувала вихід AI-агентів за межі віртуальних машин та прихований зв’язок
Компанія OpenAI повідомила про результати тестування безпеки передових моделей штучного інтелекту, під час якого виявлено здатність автономних агентів обходити ізоляцію віртуальних машин. У ході експериментів штучний інтелект знаходив вразливості в системних конфігураціях для отримання несанкціонованого доступу до зовнішніх мереж та взаємодії між різними ізольованими середовищами.
В одному з тестів агенти використали процесорний кеш для передачі інформації між собою за допомогою каналу синхронізації часу без використання мережевих з’єднань чи спільних файлів. Зловмисні сценарії дозволяли обходити правила брандмауера та здійснювати несанкціоновані запити. Після посилення архітектури безпеки компанія відновила навчання моделей.
