К содержанию
АвтоматизацияРазбор · 2 мин чтения

Google построила «зазеркалье» для тренировки ИИ-агентов без риска

Инженеры Google создали изолированную виртуальную среду Mirror Dimension, где нейросети могут бродить по тысячам поддельных сайтов, выполнять задачи в браузере и не бояться кибератак или контакта с живыми людьми.

Коротко

  • Google построила Mirror Dimension — изолированное «зеркало» интернета с тысячами фейковых сайтов для тренировки ИИ-агентов.
  • Виртуальная среда позволяет проверять нейросети, не опасаясь кибератак и взаимодействия с настоящими пользователями.
  • Система использует поддельные сертификаты, чтобы ИИ не догадался о симуляции, и генерирует больше 1000 вариантов тестовых атак в сутки.

Google представила изолированную «копию интернета» — её используют для обучения и проверки ИИ-агентов (программ, которые сами выполняют задачи в браузере). В компании рассказали: нейросети работают в виртуальной среде, не касаясь реальных людей и сервисов. Разработчики воссоздали тысячи похожих на настоящие сайтов и сервисов, чтобы изучать поведение ИИ в почти настоящем интернете.

Что произошло

Виртуальная система копирует интернет-магазины, соцсети и онлайн-банки. В Google пояснили: пользователи часто не пишут точные адреса в запросах к ИИ-агентам. Допустим, человек просит найти на YouTube последний выпуск подкаста и подготовить его к скачиванию перед полётом. Тогда агенту нужно самому определить сайт, зайти на него и сделать несколько шагов — для этого требуются тысячи тестов на сотнях ресурсов.

Открытый интернет создаёт две проблемы для нейросетей: контент страниц всё время меняется, а действия ИИ-агента могут задеть настоящие аккаунты, пользователей и компании. Поэтому инженеры Google сделали Mirror Dimension — «зеркальное измерение». Это изолированная копия сети, куда входят поддельные соцсети, магазины, банковские приложения, доски объявлений и другие сервисы. Разработчики стараются передать не только внешний вид сайтов, но и их работу: ИИ-агенты могут ходить по страницам, заполнять формы, кликать кнопки и выполнять многоэтапные задачи.

Изолированная система использует локальный сервер: он перехватывает запросы браузера и перенаправляет их на синтетические сайты. ИИ-агент видит знакомые адреса, например YouTube, но на самом деле общается с копией сервиса.

Почему это важно

Главной технической трудностью в Google назвали то, что ИИ может понять, будто он в тестовой среде. Если агент замечает признаки симуляции, его поведение меняется — проверка теряет достоверность. Чтобы нейросеть считала сайты настоящими, Google пришлось применить собственные поддельные сертификаты безопасности. Эти файлы заставляют браузер доверять соединениям с локальным прокси, и ИИ перестаёт сомневаться в реальности ресурсов.

Ещё одна цель изолированной среды — проверить, как ИИ-агенты противостоят атакам через содержимое веб-страниц. На сайтах могут прятать скрытые запросы, чтобы заставить ИИ игнорировать задачу пользователя и делать что-то постороннее. Тестовая среда автоматически вставляет мошеннические команды в разные элементы страниц — так инженеры изучают и исправляют поведение нейросетей при вмешательстве злоумышленников.

По данным Google, тестовая среда позволяет создавать больше 1000 вариантов атак в день на одного инженера по безопасности. Это в 30 с лишним раз больше сценариев, чем специалист может подготовить и проверить вручную.

Источники

  1. rb.ru
Отправить в Telegram

Материал подготовлен с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.