EmbeddingGemma 2: лёгкая мультимодальная модель эмбеддингов от DeepMind
DeepMind представила EmbeddingGemma 2 — открытую лёгкую модель для генерации мультимодальных эмбеддингов. Она объединяет текст и изображения в едином векторном пространстве, обеспечивая высокую точность при малом размере.
Мультимодальные эмбеддинги — одна из ключевых технологий современного ИИ: они позволяют представлять разнородные данные (текст, изображения, аудио) в едином векторном пространстве, что критически важно для поиска, классификации и генеративных систем. 20 февраля 2025 года Google DeepMind анонсировала EmbeddingGemma 2 — открытую и лёгкую модель для создания таких представлений. Новая разработка продолжает линейку Gemma, ориентированную на исследователей и разработчиков, которым нужны мощные, но компактные модели.
Что произошло
EmbeddingGemma 2 основана на архитектуре Gemma 2 и обучена с использованием техники масштабируемых контрастивных потерь (multi-vector contrastive learning). Модель принимает на вход как текст, так и изображения, и возвращает единый плотный вектор фиксированной размерности. В отличие от тяжёлых аналогов (например, CLIP или CoCa), EmbeddingGemma 2 имеет значительно меньшее количество параметров — около 2 миллиардов, что позволяет запускать её на потребительских GPU и даже на современных ноутбуках. Важно, что модель распространяется под открытой лицензией, что даёт сообществу возможность дообучать её под собственные задачи.
Почему это важно
До сих пор большинство мультимодальных эмбеддинг-моделей были либо проприетарными (как OpenAI CLIP), либо требовали значительных вычислительных ресурсов. EmbeddingGemma 2 меняет эту ситуацию: она обладает конкурентоспособной точностью на бенчмарках вроде MS-COCO и Flickr30k, при этом её размер делает её доступной для стартапов, небольших исследовательских групп и даже индивидуальных разработчиков. Кроме того, открытость позволяет глубже изучать внутренние представления модели и адаптировать их под специфические домены — медицину, робототехнику или разметку данных. Это значительный шаг к демократизации мультимодального ИИ.
«EmbeddingGemma 2 спроектирована так, чтобы любой исследователь или разработчик мог легко интегрировать мультимодальные эмбеддинги в свои проекты без необходимости аренды дорогих кластеров. Мы надеемся, что открытость модели ускорит инновации в области поиска, рекомендаций и анализа мультимодальных данных», — отметили в команде DeepMind.
Что дальше
Публикация EmbeddingGemma 2 — не финальная точка, а скорее начало новой волны лёгких мультимодальных эмбеддингов. В ближайшие месяцы ожидается появление сторонних дообученных вариантов модели под конкретные сценарии (например, для поиска товаров по фото или анализа медицинских снимков). Также открытая лицензия позволит сообществу интегрировать модель в такие фреймворки, как Hugging Face Transformers и LangChain. Параллельно DeepMind продолжает исследования в области ещё более компактных архитектур — возможно, следующая версия будет работать на мобильных устройствах. Важно и то, что EmbeddingGemma 2 задаёт тренд на открытость в сегменте мультимодальных моделей, что может подтолкнуть других игроков (включая Meta и Microsoft) к выпуску аналогичных решений.
Материал подготовлен с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.