Компанія OpenAI повідомила, що заблокувала акаунти кількох північнокорейських хакерських груп, які використовували платформу ChatGPT для вивчення майбутніх цілей і пошуку способів злому їхніх мереж.

“Ми заблокували облікові записи, які демонстрували активність, потенційно пов’язану зі зловмисниками з Корейської Народно-Демократичної Республіки (КНДР). Активність деяких із цих облікових записів відповідала тактикам і процедурам угруповання, відомого як VELVET CHOLLIMA (він же Kimsuky, Emerald Sleet), а інші акаунти могли бути пов’язані із суб’єктом, який, на думку надійного джерела, має відношення до угруповання STARDUST CHOLLIMA (він же APT38, Sapphire Sleet)”.

Повідомляється, що заблоковані акаунти були виявлені за допомогою інформації, отриманої від неназваного галузевого партнера OpenAI.

Зловмисники використовували ChatGPT не тільки для підбору інструментів для кібератак, а й для пошуку інформації на тему криптовалют, що часто цікавить північнокорейських урядових хакерів.

Крім того, зловмисники використовували ChatGPT для допомоги в кодингу, зокрема для допомоги у використанні опенсорсних RAT, а також для налагодження, вивчення і розроблення опенсорсних і публічно доступних захисних інструментів і коду, які могли використовуватися в брутфорс-атаках на RDP.

Крім цього, компанія заблокувала акаунти, пов’язані зі схемою працевлаштування північнокорейських ІТ-фахівців. За інформацією OpenAI, в рамках цієї схеми хакери прагнуть отримати доходи для Пхеньяну, обманюючи західні компанії і змушуючи їх приймати на роботу замаскованих північнокорейців.

У цьому випадку ШІ використовували хакери для виконання робочих завдань, включно з написанням коду, усуненням неполадок і навіть обміном повідомленнями з колегами. Також ChatGPT застосовували для складання легенд, що пояснюють незвичну поведінку таких співробітників (ухилення від відеодзвінків, доступ до корпоративних систем із неавторизованих країн або ненормований робочий день).

Також чат-бот застосовувався в кампанії Sponsored Discontent, пов’язаної з Китаєм, яка передбачала створення матеріалів для соціальних мереж англійською мовою і довгих новинних статей іспанською. Вважається, що ця активність може бути частиною дезінформаційної кампанії Spamouflage.