Google представила EmbeddingGemma: компактную мультиязычную модель для векторизации текста

Google DeepMind выпустила EmbeddingGemma — новую легковесную модель для генерации текстовых эмбеддингов, созданную на базе архитектуры Gemma 3. Модель ориентирована на построение систем семантического поиска, RAG-пайплайнов и классификации документов, предлагая высокую производительность при минимальных системных требованиях. Ключевые технические особенности EmbeddingGemma: * Параметры и размер: всего 308 млн параметров, в квантованном виде модель занимает менее 200 МБ оперативной памяти. * Архитектура: модифицированный энкодер на базе Gemma 3 с двунаправленным вниманием (bi-directional attention) вместо казуального. * Контекстное окно: поддержка последовательностей длиной до 2048 токенов. * Мультиязычность: поддержка более чем 100 языков с лидирующими результатами в бенчмарке MMTEB. * Matryoshka Representation Learning (MRL): возможность «на лету» усекать 768-мерный вектор до 512, 256 или 128 измерений без существенной потери точности для оптимизации поиска и хранения. Модель из коробки интегрируется с популярными экосистемами: Sentence Transformers, LangChain, LlamaIndex, Haystack, Text Embedding Inference (TEI) и ONNX Runtime, что позволяет быстро внедрить ее в существующие ML-пайплайны. 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты этой модели, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).