LLMON: новый язык разметки для LLM и релиз моделей Granite 4.1 (3B и 8B)
LLMON оптимизирует структурированный ввод/вывод для LLM, избавляя модели от проблем с парсингом JSON на больших контекстах.
IBM представила LLMON (LLM Object Notation) — специализированный язык разметки, созданный специально для языковых моделей взамен традиционного JSON. Основная проблема JSON для каузальных LLM заключается в том, что его структурные символы (кавычки, фигурные скобки, двоеточия) неотличимы от обычного текста, а подсчет вложенности на длинных контекстах дается трансформерам с трудом. LLMON решает это за счет использования зарезервированных спецтокенов в качестве разделителей, разделяя структуру и контент, а также локализуя вложенность и добавляя уникальные идентификаторы для привязки инструкций к данным. Вместе с анонсом выпущены две экспериментальные превью-модели на базе линейки Granite 4.1: * granite-4.1-3b-LLMON-preview * granite-4.1-8b-LLMON-preview Ключевые особенности и инфраструктурные плюсы: * Снижение галлюцинаций: Четкое разделение семантических компонентов и схем данных через спецтокены. * Совместимость с пайплайнами: В комплект поставки входит инструментарий на GitHub с конвертерами JSON ⇄ LLMON без потерь. * Интеграция с чат-темплейтами: Разметка дополняет стандартные роли (system/user/assistant), позволяя явно указывать выполнение блоков через флаги вроде `exec: True`. 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты этой модели, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).
Планируете развернуть эту нейросеть?
На ServerSales вы можете рассчитать точные требования к VRAM под разные типы квантования (4-bit Q4 / FP8 / FP16), оценить скорость генерации (токенов/сек) и сразу подобрать проверенный сервер с GPU от ведущих провайдеров.
Надежные облачные платформы и серверы в РФ
Крупнейший IaaS-провайдер РФ: облачные VPS, Bare Metal серверы и GPU-кластеры для ИИ.
Скоростные VPS от 299 ₽/мес, почасовая тарификация, готовые образы и GPU RTX 4090 / A100.
Hostkey
GPU RTX 3090 24GB
CPU
8 ядер
RAM
64 ГБ
Диск
500 ГБ NVMe
Канал
1 Гбит/с
GPU
NVIDIA RTX 3090 (24 ГБ GDDR6X)
24 999 ₽/мес
Timeweb Cloud
GPU RTX A5000 24GB
CPU
8 ядер
RAM
64 ГБ
Диск
500 ГБ NVMe
Канал
1 Гбит/с
GPU
NVIDIA RTX A5000 (24 ГБ GDDR6X)
24 999 ₽/мес
Hostkey
GPU RTX 4090 24GB
CPU
16 ядер
RAM
128 ГБ
Диск
1000 ГБ NVMe
Канал
1 Гбит/с
GPU
NVIDIA RTX 4090 (24 ГБ GDDR6X)
32 999 ₽/мес
Ищете точную конфигурацию под ваш бюджет?
Используйте наш интерактивный мастер подбора: рассчитайте точные ресурсы CPU, RAM и диска за 3 шага.