Дослідники компанії Check Point розкрили деталі раніше невідомої вразливості у ChatGPT від OpenAI, яка дозволяла викрадати чутливі дані з розмов користувачів без їхнього відома та згоди. Один шкідливий промпт міг перетворити звичайну розмову в ChatGPT на прихований канал витоку даних, через який зовні передавались повідомлення користувачів, завантажені файли та інший чутливий контент.

Технічна суть атаки полягала у наступному: хоча ChatGPT формально блокує прямий вихідний інтернет-доступ із середовища виконання коду, DNS-запити залишалися доступні як частина стандартної роботи системи. DNS — це протокол, що відповідає за перетворення доменних імен на IP-адреси, і зазвичай вважається нешкідливою інфраструктурою. Однак Check Point з’ясували, що зловмисник може кодувати дані з розмови у піддоменах DNS-запитів, пересилати ці запити назовні через Linux-контейнер ChatGPT та реконструювати інформацію на власному сервері. Фактично DNS-протокол перетворювався на двосторонній прихований тунель між ізольованим середовищем ChatGPT і зовнішнім контрольованим сервером, достатній для витоку даних і підтримки виконання команд. OpenAI підтвердила, що самостійно виявила першопричину проблеми ще до контакту з Check Point, і повне усунення вразливості було вже розгорнуто.