К содержанию
ИИРазбор · 2 мин чтения

Исследование: ИИ-сервисы массово сливают конфиденциальные данные пользователей

Исследователи под руководством HD Moore из Dragos отправили 2 млн запросов через сеть ИИ-провайдеров, внедрив в каждый уникальные трекеры. Результат: утечки, кража промптов и нарушение политик приватности.

Коротко

  • Исследователи отправили 2 млн промптов с уникальными трекерами через сеть ИИ-сервисов и обнаружили массовые утечки.
  • Три провайдера были взломаны: злоумышленники копировали запросы на входе и использовали украденные ключи AWS.
  • Пользователям рекомендуется размещать модели на собственных серверах или выбирать прямых провайдеров первого уровня.

Исследователи под руководством HD Moore, главного научного сотрудника компании Dragos, провели масштабный эксперимент по проверке безопасности ИИ-сервисов. Они отправили почти 2 миллиона запросов (промптов) через сеть провайдеров, в каждый из которых был внедрён уникальный трекер — например, ключ доступа к AWS, пароль SSH, URL или ссылка на приватный git-репозиторий. Все трекеры были новыми и никогда ранее не использовались. Это позволило отследить, где и как происходит утечка данных.

Что произошло

Эксперимент выявил три основных типа нарушений. Во-первых, как минимум три ИИ-провайдера были скомпрометированы: злоумышленники получили доступ к их системам и копировали все входящие запросы, включая те, что были помечены флагами Zero Data Retention (ZDR) — то есть с требованием не сохранять данные. Украденные ключи AWS использовались десятки тысяч раз для доступа к S3-хранилищам, менеджерам секретов и параметрам. Во-вторых, некоторые реселлеры (посредники) сами логировали промпты и передавали их третьим лицам. В-третьих, ряд провайдеров игнорировали настройки приватности пользователей: например, китайская AI-лаборатория сканировала секретные URL из более чем половины промптов, отправленных ей с июля по октябрь, включая запросы с пометкой «без сбора данных».

Особую опасность представляет архитектура маршрутизации запросов. Промпты расшифровываются на каждом узле сети: сначала их читает ИИ-роутер (посредник, выбирающий модель), затем они могут передаваться другому роутеру, а затем — в пул моделей, размещённых у разных хостинг-провайдеров. Каждый из этих участников может логировать и хранить данные. В ходе эксперимента выяснилось, что один американский хостинг-провайдер продолжал сканировать секретный URL спустя два месяца после единственного запроса.

Почему это важно

Результаты исследования показывают, что доверие к ИИ-сервисам в плане конфиденциальности данных может быть неоправданным. Даже если пользователь выбирает провайдера с жёсткими политиками приватности (например, ZDR), данные всё равно могут быть украдены при взломе или перехвачены на промежуточных узлах. Для бизнеса и разработчиков, обрабатывающих чувствительную информацию (коммерческие тайны, персональные данные клиентов), это означает необходимость тщательного выбора инфраструктуры. Наиболее безопасный вариант — размещение моделей на собственных серверах (on-premises), хотя это дорого. Альтернатива — работа напрямую с провайдерами первого уровня (например, OpenAI, Anthropic) по единому контракту, что минимизирует количество посредников. Также рекомендуется вручную выбирать upstream-провайдеров, а не использовать пулы по умолчанию.

Источники

  1. arstechnica.com/ai
Отправить в Telegram

Материал подготовлен с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.