2 грудня дослідники з кібербезпеки оприлюднили деталі нової критичної вразливості під назвою “EchoPrompt”, яка зачіпає популярні корпоративні AI-копайлоти, інтегровані в офісні пакети. Атака базується на методі непрямої ін’єкції промту (Indirect Prompt Injection): зловмисники розміщують приховані текстові команди на веб-сторінках або в документах. Коли корпоративний AI аналізує такий файл за запитом співробітника, він автоматично виконує шкідливу інструкцію, наприклад, непомітно пересилає конфіденційне резюме зустрічі або внутрішні фінансові звіти на сервер хакера.

Масштаб загрози оцінюється як “надзвичайно високий”, оскільки вразливість не вимагає від зловмисника прямого доступу до внутрішньої мережі компанії — достатньо лише змусити співробітника відкрити “отруєний” документ. Провідні розробники AI-моделей вже випустили екстрені патчі для фільтрації вхідних даних, проте експерти попереджають, що механізми захисту LLM (великих мовних моделей) все ще недосконалі. Компаніям рекомендовано тимчасово обмежити доступ AI-асистентів до критично важливих документів та провести навчання персоналу щодо ризиків обробки зовнішніх файлів штучним інтелектом.