Google анонсировала Gemma 3: мультимодальность, контекст 128K и обход тяжелых моделей прошлого поколения

Google выкатила линейку открытых весовых языковых моделей нового поколения — Gemma 3. В семейство вошли четыре модели размером 1B, 4B, 12B и 27B параметров (доступны как базовые pre-trained версии, так и instruction-tuned для диалогов). Главный прорыв релиза — полноценная мультимодальность (модели от 4B и выше понимают текст и изображения) и масштабное расширение контекста до 128K токенов (32K для младшей 1B). При этом архитектурные оптимизации позволили добиться впечатляющих бенчмарков: * Производительность: Скромная Gemma-3-4B-IT в бенчмарках обходит тяжелую Gemma-2-27B-IT, а флагманская Gemma-3-27B-IT опережает проприетарную Gemini 1.5 Pro. * Контекст и эмбеддинги: Базовая частота RoPE увеличена с 10K (в Gemma 2) до 1M, что гарантирует стабильную работу длинных контекстов без потери точности. * Гибкость деплоя: Визуальный энкодер можно не загружать в память, если вы используете модель исключительно для текстового инференса, что экономит VRAM. 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты этой модели, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).