Дослідники з Guardio Labs виявили нову техніку “Grokking”, де кіберзлочинці використовують AI-помічника Grok від X для обходу захисту від шкідливої реклами та поширення шкідливого ПЗ на мільйони користувачів.

Зловмисники публікують промоутовані відеокарти з дорослим контентом, ховаючи шкідливі посилання в метаданих “From:”, які X не сканує. Ці пости обмежені текстом, зображеннями чи відео, але отримують мільйони переглядів завдяки платній промоції. Потім у відповідях тегають Grok, запитуючи “звідки це відео?”, що змушує AI публічно відображати приховане посилання. Це посилює видимість у SEO та репутацію домену, обходячи обмеження X. Посилання ведуть до сумнівних мереж, які перенаправляють на шкідливий контент, включно з фейковими CAPTCHA, крадіжкою даних та іншим.

Guardio зафіксувала сотні акаунтів, які публікують тисячі подібних постів, поки їх не заблокують за порушення правил. Ця організована операція загрожує мільйонам через соціальні мережі та пошукові системи. Експерти наголошують на необхідності посилення сканування метаданих та відповідей AI для запобігання таким експлойтам. Це підкреслює вразливість платформ з AI до зловживань, де автоматизація допомагає масштабувати атаки.