OpenAI предотвратила мошенническую сеть в Камбодже, использующую ChatGPT
OpenAI прервала работу крупной мошеннической сети в Камбодже, которая использовала ChatGPT для инвестиционных, романтических, игровых афер и подмены личности. Это первый случай такого масштабного вмешательства компании.
Искусственный интеллект всё чаще становится инструментом не только для созидания, но и для злоупотреблений. В новом отчёте OpenAI сообщила о пресечении деятельности разветвлённой мошеннической сети, базировавшейся в Камбодже. Злоумышленники использовали ChatGPT для создания убедительных сценариев инвестиционных афер, романтических обманов, фишинговых игр и подмены личности. Это первый случай, когда компания публично раскрывает подробности подобной операции и свои действия по её блокировке.
Что произошло
Команда разведки угроз OpenAI обнаружила серию подозрительных активностей, связанных с аккаунтами, зарегистрированными в Камбодже. Анализ показал, что мошенники использовали ChatGPT для автоматизации диалогов с потенциальными жертвами — от написания убедительных любовных писем до создания фальшивых инвестиционных предложений. После выявления сети OpenAI оперативно отключила все связанные аккаунты, заблокировала доступ к API и передала информацию правоохранительным органам. По данным компании, операция была частью более крупного криминального синдиката, специализирующегося на цифровом мошенничестве.
Почему это важно
Этот инцидент подчёркивает двойственную природу генеративных ИИ-моделей: при грамотном использовании они приносят пользу, но в руках злоумышленников превращаются в мощное оружие социальной инженерии. Действия OpenAI демонстрируют сдвиг в подходе компаний к безопасности — от реактивного реагирования к проактивному выявлению и разрушению преступных схем. Это также создаёт прецедент для других разработчиков ИИ: теперь ответственность за конечное использование технологий ложится не только на пользователей, но и на платформы, которые могут и должны вмешиваться.
«Мы стремимся к тому, чтобы наши технологии использовались этично и ответственно. Блокировка этой сети — часть нашей постоянной работы по защите пользователей и предотвращению злоупотреблений», — заявили в OpenAI.
Что дальше
OpenAI продолжит усиливать механизмы мониторинга и автоматического обнаружения подозрительных паттернов использования. В планах — расширение сотрудничества с международными правоохранительными органами и обмен данными о тактиках мошенников. Кроме того, этот случай может ускорить введение более строгих правил верификации пользователей и ограничений на массовое создание аккаунтов. Для индустрии ИИ в целом это сигнал: безопасность должна быть встроена в продукт на этапе разработки, а не быть запоздалой заплаткой.
Материал подготовлен с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.