Ко всем новостям
🇷🇺ServerNewsAI-адаптировано

Итоги 2021 года: дайджест ServerNews

Пока AMD и Intel обменивались любезностями, за их спинами наконец сформировался достойный противник из стана Arm — Ampere. В деле ML/DL нашлось сразу несколько новичков, готовых бросить вызов NVIDIA. DPU/IPU становятся всё более реальными, а где-то вдалеке уже слышна неравномерная поступь легиона RISC-V Ушедший год в сравнении с 2020-м оказался более богатым на «железные» новинки, анонсы и сделки. Но не потому, что он стал каким-то особенно удачным, а потому, что позапрошлый год для всех был несколько шокирующим. Для тех, кто пропустил ключевые вехи серверного рынка, мы сделали подборку самых интересных новостей 2021-го в следующих категориях: От грандов индустрии в ушедшем году было три ключевых новинки: AMD EPYC Milan , IBM Telum и Intel Xeon Ice Lake-SP . И если для AMD это было приятное, но всё же эволюционное обновление, то третье поколение Xeon Scalable в корне отличается от предыдущих. Intel достигла паритета с AMD по ряду параметров, отказалась от некоторых порочных практик, но по сумме «голых» характеристик всё ещё отстаёт, хотя и предлагает целый ряд уникальных функций, что помогает дистанцироваться от конкурента. Ну а в плане инноваций интереснее всего опять решения IBM — но на этот раз не POWER , а Telum , который относится к Z-семейству и ориентирован на специфичный рынок. Как и окончательно почивший Itanium . В растущем стане Arm произошло несколько важных событий. В начале года Qualcomm поглотила Nuvia, так что единственным серьёзным игроком в серверном сегменте осталась Ampere, выпустившая процессоры Altra Max , которые уже обогнали EPYC и Xeon по числу ядер. Но больше всех удивила Amazon, представившая Graviton3 . Да, это чип, созданный сугубо для нужд конкретного гипескейлера, но тут важно то, что Amazon теперь разве что только оперативную память не создаёт собственными силами. В ту же сторону, по слухам, движутся Google и Microsoft. Да и у Alibaba Cloud теперь тоже есть собственный Arm-процессор Yitian 710 . Из прочей восточной экзотики никак нельзя обойти вниманием суперкомпьютеры экзафлопсного класса OceanLight и Tianhe-3 , построенные Китаем на процессорах собственной разработки. В сторону импортозамещения поглядывает и Южная Корея . А Евросоюз даже успел получить первую тестовую партию RISC-V чипов EPAC 1.0 , которые, впрочем, относятся скорее к ускорителям. 2021 год вообще был успешным для RISC-V — анонсировано много продуктов, появились сильные стартапы вроде Ventana или Rivos, а российской Yadro предложили ₽27,8 млрд на создание серверного CPU. Что касается планов на 2022 год, то нас ждёт выход AMD EPYC Milan-X с 3D V-Cache , а также запуск сразу двух новых серий: Bergamo и Genoa . Конкуренцию им должны составить Intel Xeon Sapphire Rapids и уникальные Tachyum Prodigy . Ampere представит следующее поколение CPU с уже собственными Arm-ядрами Siryn , а SiPearl должна показать чипы Rhea . «Байкал Электроникс» налаживает серийное производство Baikal-S (и уже готовит Baikal-S2 ), а МЦСТ — Эльбрус-16С . В следующем году появятся и серверные Arm-процессоры NVIDIA Grace , но для компании гораздо более важны чипы другого класса . DPU или, лучше сказать, IPU (Infrastructure Processing Unit) — всё ещё новый класс устройств, на который тем не менее возлагают большие надежды. От изначальной задачи по «кормлению» вычислителей напрямую с внешних СХД, которой, к примеру, всё ещё в большей степени придерживается Kalray , перешли к более общей идее разгрузки самих серверов от служебных задач. Дальше всех в этом продвинулась NVIDIA, которая готовит уже третье поколение Bluefield вместе с конвергентными ускорителями и, самое главное, выстраивает экосистему ПО. Она и предлагает свои SDK, и сотрудничает, например, с VMware в рамках Project Monterey , в котором также участвуют Pensando и Intel. В ту же сторону смотрит Fungible , тоже, впрочем, не забывающая о СХД , и Nebulon . Но действительно крупным игроком в это секторе может стать Intel, анонсировавшая сразу три устройства IPU . Mount Evans, самое интересное из них, делается для Google . Не менее интересны Octeon от Marvell и Alveo SN1000 от Xilinx. В 2022-м мы наверняка увидим не только новые IPU, но и конечные продукты на их основе. Их уже можно встретить в HPC-системах и СХД, коммутаторах и брандмауэрах. 💡 Где захостить и как запустить: рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на ServerSales в интерактивном подборщике AI-моделей или каталоге GPU-серверов.

Где захостить и как запустить

Планируете развернуть эту нейросеть?

На ServerSales вы можете рассчитать точные требования к VRAM под разные типы квантования (4-bit Q4 / FP8 / FP16), оценить скорость генерации (токенов/сек) и сразу подобрать проверенный сервер с GPU от ведущих провайдеров.

Первоисточник материала
Новость опубликована в издании ServerNews.
Вы можете прочитать полную версию статьи и комментарии на сайте источника.
Читать на ServerNews
Проверенные провайдеры под задачи материала

Надежные облачные платформы и серверы в РФ

Весь каталог
SelectelTier III • 152-ФЗ
★ 4.9

Крупнейший IaaS-провайдер РФ: облачные VPS, Bare Metal серверы и GPU-кластеры для ИИ.

Бонус до 3 000 ₽ на облачную платформу
Перейти в Selectel
Timeweb CloudNVMe • Anti-DDoS
★ 4.8

Скоростные VPS от 299 ₽/мес, почасовая тарификация, готовые образы и GPU RTX 4090 / A100.

Скидка 20% на первый заказ VPS
Перейти в Timeweb Cloud
Рекомендуемые конфигурации по теме
В наличииGPU
Hostkey

Hostkey

Россия4.3

GPU RTX 3090 24GB

CPU

8 ядер

RAM

64 ГБ

Диск

500 ГБ NVMe

Канал

1 Гбит/с

GPU

NVIDIA RTX 3090 (24 ГБ GDDR6X)

39/час

24 999 ₽/мес

В наличииGPU
Timeweb Cloud

Timeweb Cloud

Россия4.8

GPU RTX A5000 24GB

CPU

8 ядер

RAM

64 ГБ

Диск

500 ГБ NVMe

Канал

1 Гбит/с

GPU

NVIDIA RTX A5000 (24 ГБ GDDR6X)

36/час

24 999 ₽/мес

В наличииGPU
Hostkey

Hostkey

Россия4.3

GPU RTX 4090 24GB

CPU

16 ядер

RAM

128 ГБ

Диск

1000 ГБ NVMe

Канал

1 Гбит/с

GPU

NVIDIA RTX 4090 (24 ГБ GDDR6X)

47/час

32 999 ₽/мес

Каталог серверов ServerSales

Ищете точную конфигурацию под ваш бюджет?

Используйте наш интерактивный мастер подбора: рассчитайте точные ресурсы CPU, RAM и диска за 3 шага.

Другие новости индустрии

🇷🇺Хабр / Хостинг

Сколько ресурсов ест ИИ‑агент на сервере: замеры на двадцати агентах

Год назад я поднял первого агента на сервере и закладывал память как под обычный скрипт. Через месяц на той же машине жило двадцать, а ещё через неделю она легла целиком. Ниже — цифры, которые я снял на живых машинах, и три ошибки, каждая из которых стоила мне рабочего дня. Это не обзор хостингов. Это замеры своего хозяйства: сколько на самом деле ест агент, почему разброс в семь раз и что ломается раньше памяти. Читать далее 💡 **Где захостить и как запустить:** рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на **ServerSales** в интерактивном [подборщике AI-моделей](/ai) или [каталоге GPU-серверов](/gpu).

🌐Hugging Face Blog

**Знайте, кто когда говорил: создайте искусственный интеллект с несколькими говорящими в реальном времени с помощью NVIDIA Nemotron 3 Diarization**

Рассмотрим стенограмму встречи, разговора с клиентом или подкаста, в которой каждое предложение верно, но ни одно из них не приписано говорящему. Вы можете прочитать слова, но не можете достоверно сказать, кто взял на себя обязательство, кто высказал возражение или какой участник перебил. Поиск, сводки, действия, аналитика разговоров и память голосового агента становятся менее полезными. Диаризация говорящих определяет временные интервалы, в течение которых каждый говорящий активен, включая интервалы, когда люди переговариваются друг с другом. Эти временные метки говорящего затем можно объединить с автоматическим распознаванием речи (ASR) для создания стенограммы, приписываемой говорящему. NVIDIA Nemotron 3 Diarization is an open-weight, 100M-parameter model that ranks #1 on VoiceArena's Diarization-Bench leaderboard with a 14.72% Diarization Error Rate (DER). Supporting up to eight speakers across live and recorded conversations, it handles overlapping speech, chunked processing for flexible recording lengths, and customizable streaming latency. Рисунок 1. Nemotron 3 Diarization №1 в таблице лидеров VoiceArena Diarization-Bench. Earlier models like NVIDIA Streaming Sortformer established this approach for four-speaker diarization, including the streaming diar_streaming_sortformer_4spk-v2.1 checkpoint used as the baseline below. Nemotron 3 Diarization расширяет поддержку до восьми динамиков и повышает точность и пропускную способность, измеренную в следующих оценках. Как работает Nemotron 3 Диаризация Одна модель для оффлайн и потоковых разговоров Системы диаризации должны решать две взаимосвязанные проблемы. Во-первых, они должны распознать речь и назначить ее нужному говорящему. Second, they must preserve that assignment throughout the conversation, even after silence, interruptions, or long gaps between a speaker's turns. Потоковая передача усложняет вторую проблему. Автономная модель может проверить всю запись сразу. Потоковая система получает лишь небольшой фрагмент нового аудио и ограниченный контекст. Without an effective memory mechanism, the speaker assigned to one output channel in the current chunk can be assigned to a different channel in the next. Nemotron 3 Diarization следует подходу Sortformer, который упорядочивает выходные динамики по времени их первого появления. Первый новый голос становится первым каналом динамика, следующий новый голос становится вторым и так далее. This arrival-time ordering makes the model's generic speaker labels stable and removes the need to solve a new speaker permutation for every chunk. 💡 **Где захостить и как запустить:** рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на **ServerSales** в интерактивном [подборщике AI-моделей](/ai) или [каталоге GPU-серверов](/gpu).

🌐Data Center DynamicsAI-адаптация

Техас тормозит дата-центры: власти приостановили выдачу разрешений под аудит ERCOT

Губернатор Техаса Грег Эбботт распорядился временно заморозить выдачу новых разрешений на подключение крупных дата-центров к электросетям штата. Причиной стал масштабный аудит энергосистемы, который проводит техасский системный оператор ERCOT (Electric Reliability Council of Texas). Энергетическая инфраструктура региона испытывает экстремальные нагрузки из-за лавинообразного роста числа ЦОД, ориентированных на облачные вычисления и тяжелые AI-нагрузки. Проверка ERCOT должна оценить реальные резервы мощности и предотвратить дефицит электроэнергии в пиковые периоды. Завершение аудита и публикация отчета запланированы на декабрь текущего года. * **Причины моратория:** Дефицит свободных мощностей в сети ERCOT на фоне бурного строительства дата-центров. * **Сроки:** Заморозка разрешений действует до завершения проверки в декабре. * **Влияние на рынок:** Задержка ввода в эксплуатацию новых серверных площадок и необходимость пересмотра графиков деплоя инфраструктуры. 🔍 Как выбрать сервер: Сравнить актуальные конфигурации серверов на базе этого оборудования и найти минимальные цены от проверенных провайдеров РФ и Европы можно в каталоге ServerSales (/catalog).

💡 Инсайт:Энергетический кризис в ключевых хабах дата-центров тормозит масштабирование инфраструктуры и заставляет операторов пересматривать географию новых проектов.