Аналітики Unit 42 виявили небезпечну архітектурну помилку в інструменті розробки Google Cloud Vertex AI SDK для Python. Проблема крилася в логіці створення хмарних сховищ для завантаження моделей машинного навчання. Якщо розробник не вказував ім’я сховища вручну, програма автоматично генерувала передбачувану назву на основі ID проєкту. Хакери могли заздалегідь створити сховище з таким самим ім’ям у своєму акаунті, перехоплюючи файли жертви.

Метод отримав назву “Pickle in the Middle”. Коли розробник надсилав ШІ-модель, вона потрапляла в бакет зловмисника, який за секунди замінював її на шкідливий аналог. Під час запуску зміненої моделі інфраструктурою Vertex AI виконувався прихований код, що викрадав токени доступу до BigQuery, логів та інших конфіденційних моделей клієнта.