🤖 Експерти виявили «промпт-рекламу» у інструментах для обходу захисту штучного інтелекту
Спеціалісти з компанії Check Point Research виявили новий тип кіберзагрози, який отримав назву «промпт-реклама». Під час аналізу пакета для обходу захисту OpenAI Codex дослідники знайшли приховані інструкції, які змінюють поведінку штучного інтелекту. Замість виконання прямих команд шкідливий скрипт змушує мовну модель автоматично вставляти рекламу стороннього комерційного шлюзу в кожну відповідь користувачу під час активації стандартними словами-привітаннями.
Зловмисники поширюють модифікований інструментарій через відкриті репозиторії під виглядом корисних розширень для розробників. Такий підхід демонструє новий вектор вразливостей у ланцюжку постачання штучного інтелекту, коли зловмисники маніпулюють не виконуваним кодом, а природно-мовними інструкціями та глобальними системними промптами. Подібні методи дозволяють приховано монетизувати трафік розробників та переспрямовувати запити до сторонніх комерційних API без відома власників систем.
