OpenAI пресекла новую ИИ-кампанию влияния из России
OpenAI заблокировала аккаунты, связанные с Россией, которые использовали её технологии для продвижения фейкового израильского аналитического центра и индекса «суверенитета», восхваляющего Москву и критикующего Запад.
Компания OpenAI сообщила о пресечении новой скоординированной кампании влияния, исходившей из России. Злоумышленники использовали языковые модели искусственного интеллекта (включая GPT) для создания контента от имени вымышленного израильского аналитического центра и продвижения так называемого «индекса суверенитета», который систематически превозносил политику России и критиковал страны Запада. Это первый случай, когда OpenAI публично раскрывает кейс применения своих ИИ-инструментов в рамках зарубежного вмешательства.
Что произошло
По данным отчёта OpenAI, операция началась ещё в 2023 году. Было заблокировано несколько аккаунтов, зарегистрированных из России, которые генерировали и распространяли статьи, посты в соцсетях и комментарии, якобы исходящие от независимого израильского аналитического центра. На самом деле организация не существовала. Созданный ей «индекс суверенитета» публиковал рейтинги стран, где Россия неизменно оказывалась на верхних строчках, а страны НАТО и Евросоюза — внизу. OpenAI подчеркнула, что кампания не достигла значительного охвата — большинство материалов было удалено до того, как их успели заметить реальные пользователи.
Почему это важно
Этот инцидент — очередное свидетельство того, что генеративные нейросети становятся инструментом информационных операций. Ранее подобные кампании требовали больших человеческих ресурсов для написания текстов. Теперь же с помощью ИИ можно быстро создавать правдоподобный контент на нескольких языках, имитируя работу целых редакций. OpenAI подчёркивает, что продолжает совершенствовать системы обнаружения злоупотреблений и блокировать подобные сети до того, как они наберут аудиторию. Важно и то, что компания публично раскрывает детали — это повышает прозрачность и позволяет другим исследователям лучше понимать тактики современных кампаний влияния.
«Мы не наблюдаем признаков того, что эта кампания смогла привлечь значительную аудиторию или органически распространить контент. Тем не менее, это показывает, как злоумышленники адаптируют ИИ для своих целей, и почему мы обязаны делиться данными о таких инцидентах», — заявили в OpenAI.
Что дальше
OpenAI продолжит отслеживать и пресекать попытки использовать её технологии для дезинформации. Ожидается, что по мере развития языковых моделей аналогичные схемы будут возникать чаще, причём не только со стороны государственных акторов. Регуляторы по всему миру уже обсуждают обязательные механизмы прозрачности для ИИ-систем. В случае с данной кампанией OpenAI сотрудничала с профильными исследовательскими организациями и планирует передать наработки сообществу по борьбе с иностранным вмешательством. Инцидент также подчёркивает необходимость международных соглашений о недопустимости использования ИИ в пропагандистских целях.
Материал подготовлен с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.