DeepMind и Сингапур создают ИИ для обнаружения мошенничества в чатах
Google DeepMind и GovTech Сингапура разработали модель ИИ на базе Gemma, которая выявляет мошенничество в личных сообщениях прямо на устройстве. Решение работает без передачи данных в облако, обеспечивая приватность и скорость.
Мошенничество через мессенджеры становится все более изощренным: злоумышленники используют социальную инженерию и адаптивные сценарии. Пользователи часто не могут распознать обман, особенно когда преступники имитируют голос или стиль общения знакомых. Традиционные антивирусы и фильтры неэффективны против персонализированных атак.
Что произошло
Google DeepMind совместно с GovTech Сингапура представили модель ИИ, предназначенную для перехвата мошеннических диалогов в приватных чатах. Система использует облегченные модели Gemma, которые работают непосредственно на устройстве, анализируя текст в реальном времени. Благодаря локальному выполнению, данные не покидают устройство, что исключает утечки в облако.
Почему это важно
Традиционные облачные решения для обнаружения мошенничества имеют существенный недостаток: они требуют передачи данных на серверы, что может нарушить конфиденциальность и увеличить задержку. Локальный подход, напротив, гарантирует приватность переписки, мгновенно анализирует сообщения и снижает риски перехвата данных. Это особенно актуально для регионов с низким качеством связи или строгими законами о защите данных.
Наша цель — создать инструмент, который защищает людей, не вторгаясь в их приватность. Локальный анализ сообщений — это следующий шаг в борьбе с цифровым мошенничеством, — отметил представитель Google DeepMind.
Что дальше
После успешного пилотного проекта в Сингапуре технологию могут распространить на другие страны и интегрировать в популярные мессенджеры. Разработчики планируют расширить возможности модели для обнаружения фишинга в голосовых сообщениях и видеозвонках. Ожидается, что подобные локальные ИИ-решения станут стандартом для защиты пользователей по всему миру, встраиваясь в ОС и приложения, а также откроют новые направления для исследований в области персональных безопасных ИИ-ассистентов.
Материал подготовлен с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.