Дослідники з безпеки виявили нову техніку атаки — «Logic Poisoning». Хакери навчилися непомітно підміняти дані в системах RAG (Retrieval-Augmented Generation), які використовують лікарі для аналізу симптомів. Зловмисники впроваджують у бази даних наукових статей мікро-помилки, які змушують ШІ видавати хибні діагнози або рекомендувати небезпечні дозування ліків.

Математична модель атаки базується на зміщенні ймовірнісного розподілу токенів, де навіть незначне втручання призводить до критичної помилки у фінальній пораді ШІ. Вчора було зафіксовано перші випадки, коли ШІ-асистенти в клініках Німеччини почали ігнорувати симптоми алергії у пацієнтів через це «отруєння» даних.

Будь-яку пораду від ШІ, особливо медичну чи юридичну, перевіряйте у «живого» фахівця. Ми входимо в еру, де хакери атакують не ваші гроші, а вашу логіку.