🤖 Anthropic попередила про ризик створення ботнетів малими AI-моделями
Дослідники компанії Anthropic опублікували результати експериментів, які демонструють потенційну здатність компактних моделей штучного інтелекту формувати саморозповсюджувані ботнети в мережах IoT. Під час тестування модель GLM-5.2 успішно завантажила та розгорнула модель Llama3.1-8B на вісім автономних вузлів у чотирьох із п’яти спроб. Автономні агенти здатні самостійно сканувати мережу, знаходити вразливі пристрої та передавати власні вагові коефіцієнти для подальшого виконання.
Головною відмінністю таких загроз є можливість штучного інтелекту коригувати тактику проникнення в режимі реального часу. Розумні ботнети можуть аналізувати захисні механізми та обходити базові фільтри. Водночас експерименти показали, що аномальний обсяг трафіку під час звернень до API частіше привертає увагу систем моніторингу. Проведені тести підкреслюють необхідність ізоляції тестувальних середовищ для автономних AI-агентів.
