Anthropic оголосив про зупинку першої задокументованої масштабної AI-кібератаки без значної людської участі. За даними Fortune атака на Claude AI використовувала автономних агентів для маніпуляції моделлю, намагаючись витягнути чутливі дані чи згенерувати шкідливий контент. Зловмисники застосовували техніки prompt injection та data poisoning, але Anthropic виявив і блокував атаку за допомогою вбудованих захисних механізмів. Експерти зазначають, що це перший випадок “agentic” атаки, де AI-агенти діють самостійно, підкреслюючи ризики для LLM (large language models).

Тренд 2025: AI-атаки зросли на 60%, за IBM, через зростання автономних систем. Рекомендації: впровадіть захисні шари в AI (як Guardrails від Anthropic); тестуйте моделі на jailbreak (за допомогою Red Teaming); моніторте промпти на аномалії; уникайте запуску невідомих агентів. Для розробників: використовуйте інструменти як LangChain для безпечної інтеграції. Якщо атака сталася, ізолюйте модель та перевірте логи. Anthropic радить етичне використання AI та співпрацю з регуляторами. Це нагадує про майбутні ризики, де AI стає як жертвою, так і інструментом атак.