Исследователи выявили кражу ключей через дешёвых AI-провайдеров
Исследователи безопасности из Dragos отправили около 2 млн тестовых запросов к AI-сервисам и обнаружили, что как минимум три провайдера были скомпрометированы. Злоумышленники воровали учётные данные и ключи в течение нескольких месяцев, оставаясь незамеченными.
Коротко
- Исследователи Dragos отправили 2 млн тестовых запросов и выявили как минимум трёх скомпрометированных AI-провайдеров.
- Злоумышленники воровали AWS-ключи, в том числе из отклонённых запросов, и пытались получить постоянный доступ к системам.
- Посредники (роутеры и маркетплейсы) могут читать запросы пользователей, даже если обещают «нулевое хранение данных».
Исследователи безопасности из компании Dragos провели масштабный тест: с июля по ноябрь 2026 года они отправили примерно 2 млн AI-запросов, содержащих поддельные учётные данные, к различным AI-провайдерам. Целью было выявить уязвимости в цепочке обработки запросов.
Что произошло
Dragos обнаружил как минимум трёх провайдеров, которые были скомпрометированы: злоумышленники активно воровали данные пользователей. Ни один из этих провайдеров не знал о взломе до уведомления от Dragos. В крупнейшем инциденте злоумышленники собрали сотни AWS-ключей, в том числе из запросов, которые провайдер отклонил до обработки. В некоторых случаях они проверяли украденные ключи в течение нескольких часов, искали хранилища S3 и пытались установить постоянный доступ. Один из злоумышленников использовал ARTEX — инструмент для атак на основе AI.
Особую опасность представляют посредники — AI-роутеры (сервисы, которые перенаправляют запросы к разным моделям) и маркетплейсы моделей. Например, OpenRouter даёт единый API для доступа к моделям разных компаний, но каждый промежуточный узел может читать весь запрос и ответ. Некоторые роутеры работают как открытые маркетплейсы, где самый дешёвый провайдер получает трафик. В одном случае провайдеры Novita, AtlasCloud и StreamLake находились между OpenRouter и разработчиком модели MiniMax.
Настройки конфиденциальности, такие как «Zero Data Retention» (ZDR, нулевое хранение данных), часто игнорировались. Dragos сообщает, что китайская AI-лаборатория получала доступ к секретным тестовым URL более чем в половине всех запросов, даже когда эти запросы шли через американских провайдеров. Крупные американские провайдеры также нарушали собственные политики: один из них продолжал обращаться к тестовому URL спустя два месяца после единственного запроса. В другом случае секретная тестовая ссылка появилась во внутреннем чате на Feishu (Lark) через 24 дня после запроса, и её открыли в течение двух минут на трёх компьютерах и трёх телефонах в Пекине и Шанхае.
OpenRouter отреагировал, удалив трёх провайдеров со своей платформы и отозвав одобрение ZDR для 125 конечных точек. Компания также предупредила пользователей, что третьи лица могли читать запросы, отправленные к моделям MiniMax. Некоторые затронутые провайдеры, включая Novita, Phala и Together, опубликовали предварительные отчёты о безопасности.
Почему это важно
Для бизнеса и разработчиков: отправка запросов, содержащих учётные данные, через посредников крайне рискованна. Каждый промежуточный узел может прочитать запрос и ответ, а обещания «нулевого хранения данных» часто не выполняются. Рекомендуется контролировать маршрутизацию AI-запросов, проверять настройки конфиденциальности и использовать «канареечные токены» (поддельные учётные данные, которые сигнализируют об утечке).
Для обычных пользователей: даже если вы используете крупного американского провайдера, ваши данные могут оказаться у третьих лиц, включая китайских акторов. Прозрачность цепочки поставки AI-услуг остаётся низкой.
Ничто из этого не означает, что вам следует перестать пользоваться AI-сервисами. Это означает, что то, куда направляются ваши промпты, — это решение, и если вы его не принимаете, его примет самая низкая цена.
Источники
Материал подготовлен с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.