Google построила «зазеркалье» для тренировки ИИ-агентов Chrome — безопасную копию интернета
Инженеры Google создали Mirror Dimension — изолированную веб-среду, которая копирует реальные сайты и атаки. В ней обучают ИИ-агентов для Chrome, не подвергая риску пользователей и сеть.
Коротко
- Google создала Mirror Dimension — полностью подконтрольный «альтернативный интернет» для тренировки ИИ-агентов Chrome.
- Среда включает реалистичные сайты, соцсети, магазины и банковские интерфейсы, а также имитирует кибератаки.
- Инженерам пришлось «взломать» браузер, выпустив поддельные сертификаты, чтобы агенты работали в настоящем Chrome.
Разрабатывая ИИ-функции на базе Gemini для Chrome, инженеры Google создали обширный и полностью контролируемый «альтернативный интернет» — Mirror Dimension. Его цель — избежать непредсказуемых последствий при обучении ИИ-агентов, которые умеют самостоятельно выполнять задачи в сети.
Что произошло
Mirror Dimension — это масштабная, разнообразная, но полностью изолированная веб-экосистема. Инженеры Chrome полностью её контролируют. В ней есть множество сайтов и платформ: соцсети, интернет-магазины, банковские интерфейсы — всё с атрибутами настоящих веб-ресурсов. ИИ-агенты взаимодействуют с этими сайтами в Chrome так же, как в реальном интернете. Во время работы их проверяют на устойчивость, например, подсовывают скрытые попытки внедрения вредоносного кода.
Чтобы наполнить Mirror Dimension, инженеры Chrome задействовали армии агентов — разработчиков сайтов и приложений под управлением специальной ИИ-системы. Они быстро создавали реалистичные веб-сервисы и потоки данных, вплоть до мелочей: ввод промокодов в магазине, наполнение страниц в соцсетях. Чтобы ИИ-агенты работали в настоящем Chrome (это критически важно для качественного обучения), инженерам пришлось по сути взломать браузер — они выпустили поддельные веб-сертификаты для прохождения проверок. В Google подчеркнули: для обычных пользователей такие атаки невозможны, так как они проводились при полном контроле над средой и сетью.
Почему это важно
Обучение ИИ-агентов в обычных ограниченных тестовых средах даёт лишь частичный эффект. Модели могут понять, что находятся в симуляции, и начать вести себя иначе. Выпускать «необкатанных» агентов в открытый интернет слишком рискованно. Mirror Dimension позволяет Google безопасно тестировать поведение ИИ в условиях, максимально приближенных к реальным, включая кибератаки. Для бизнеса и разработчиков это значит, что будущие ИИ-функции Chrome станут более надёжными и защищёнными до того, как попадут к пользователям.
ИИ-агенты не программируются [алгоритмически], и предусмотреть всё, с чем они могут столкнуться, невозможно. Пространство для исследования здесь колоссально, а интернет — среда враждебная. Любой пользователь может ввести на любом сайте любой запрос, поэтому нам необходимо тщательно изучить это пространство. Мы уже видим, что агент начинает проявлять зрелую рассудительность — понимает, какая именно информация требуется для выполнения задачи, и когда стоит обратиться к пользователю за подтверждением.
Что дальше
Тестируемые в Google ИИ-агенты для Chrome безобидны и не умеют проводить атаки. Теперь инженеры хотят открыть Mirror Dimension для других отделов Google, чтобы в этой контролируемой среде тестировались и другие продукты.
Источники
Материал подготовлен с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.