OpenAI пресекла две ИИ-кампании с подставными журналистами и think tank
OpenAI объявила о прерывании двух операций влияния на основе ИИ, в которых злоумышленники использовали подставных журналистов и аналитический центр для распространения геополитических сообщений. Это первый случай, когда компания раскрывает такие скоординированные усилия, подчёркивая новые вызовы для безопасности ИИ.
OpenAI, разработчик ChatGPT, сообщила о прерывании двух скоординированных операций влияния, которые использовали её модели для создания и распространения дезинформации. Злоумышленники выдавали себя за журналистов и представителей аналитического центра, чтобы продвигать геополитические нарративы. Это первый публичный отчёт компании о подобных «ложных фронтах» (false front operations), где ИИ применяется для имитации легитимных источников.
Что произошло
По данным OpenAI, одна из операций была связана с созданием подставных новостных сайтов, которые публиковали статьи от имени вымышленных журналистов. Другая операция имитировала работу аналитического центра, выпуская отчёты и комментарии на политические темы. В обоих случаях использовались инструменты OpenAI (например, ChatGPT) для генерации текстов, которые затем распространялись через социальные сети и другие платформы. Компания не раскрыла конкретные страны-цели, но отметила, что кампании были направлены на аудиторию в нескольких регионах мира.
Почему это важно
Эти инциденты демонстрируют, как технологии ИИ могут быть использованы для усиления информационных операций в масштабе, который ранее был недоступен. Традиционные «ложные фронты» требовали значительных человеческих ресурсов и времени, но с помощью генеративных моделей злоумышленники могут быстро создавать правдоподобный контент и поддерживать иллюзию реальных организаций. Это ставит перед платформами и разработчиками ИИ новые задачи по детекции и блокировке такого рода угроз, особенно когда контент смешивается с легитимными источниками.
«Эти операции демонстрируют, что ИИ может быть использован для усиления дезинформации, и мы обязаны проявлять бдительность, совершенствуя методы выявления и блокировки подобных угроз, а также делясь находками с сообществом безопасности», — заявили представители OpenAI.
Что дальше
OpenAI заявила, что продолжит мониторинг и пресечение злоупотреблений своими моделями, а также намерена публиковать отчёты о выявленных операциях влияния для повышения прозрачности. В перспективе это может привести к ужесточению политик использования API и усилению сотрудничества с другими технологическими компаниями и правительствами. Эксперты предупреждают, что по мере развития ИИ такие «ложные фронты» станут ещё более изощрёнными, что потребует разработки новых инструментов для верификации источников и контента.
Материал подготовлен с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.