Дослідники з кібербезпеки виявили критичний метод атаки під назвою MemGhost, спрямований проти сучасних великих мовних моделей. Вразливість дозволяє хакерам непомітно перезаписувати довгострокову пам’ять ШІ-асистентів за допомогою одного спеціально сформованого запиту або електронного листа. Шкідливі інструкції надійно закріплюються в базі знань моделі та активуються під час кожної наступної сесії роботи користувача з системою.

Технічні деталі свідчать, що скомпрометований асистент починає приховано маніпулювати відповідями. Зокрема, штучний інтелект може підміняти платіжні реквізити, перенаправляти користувачів на фішингові ресурси або передавати конфіденційні дані з чатів на сервери зловмисників. Головною небезпекою MemGhost є довготривала стійкість атаки, оскільки шкідливий вплив зберігається навіть після оновлення сеансу чи очищення поточної історії діалогу.