Аналітики з кібербезпеки повідомили про нову витончену атаку на корпоративні системи штучного інтелекту, що використовують технологію RAG (Retrieval-Augmented Generation). Атака, названа “MemoryFog”, полягає у непомітному впровадженні “отруєних” документів у внутрішні бази знань компаній (SharePoint, Google Drive). Ці файли містять прихований текст білого кольору, який людина не бачить, але AI зчитує як пріоритетну інструкцію.

Результатом стає те, що корпоративний AI-асистент починає видавати співробітникам хибні, але переконливі відповіді: наприклад, рекомендує небезпечні бібліотеки коду або надає змінені банківські реквізити для платежів. Оскільки модель AI сама по собі не зламана, а лише “обманута” даними, детектори аномалій довгий час ігнорували проблему. Компаніям рекомендовано провести повний аудит індексів пошуку та впровадити візуальний аналіз документів перед їх індексацією нейромережами.