Релиз NVIDIA Nemotron Nano 2 9B и мультиязычного датасета: гибридная архитектура Transformer–Mamba для edge-инференса

NVIDIA выпустила модель Nemotron Nano 2 9B с гибридной архитектурой Transformer–Mamba (комбинация Mamba-2 и компактного набора слоев внимания), а также масштабный мультиязычный датасет reasoning-данных на 6 млн примеров (включая французский, испанский, немецкий, итальянский и японский языки). Главная фишка релиза — настраиваемый бюджет мышления (thinking budget), позволяющий гибко балансировать между точностью и скоростью генерации токенов под конкретные бизнес-задачи. Технические характеристики и требования: * Размер модели: 9 млрд параметров (9B). * Архитектура: Гибридная Transformer–Mamba, обеспечивающая до 6× более высокую пропускную способность токенов по сравнению с классическими трансформерами аналогичного размера. * Оптимизация затрат: Динамический контроль «мыслительных» токенов снижает затраты на инференс до 60%. * Тип лицензии: nvidia-open-model-license. * VRAM и оборудование: Для эффективного деплоя модели на базе NVIDIA NIM или через Hugging Face рекомендуется использовать современные GPU с поддержкой быстрой генерации (оптимально для Edge-устройств, рабочих станций RTX и серверных кластеров). 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты этой модели, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).