Ко всем новостям
🇷🇺ServerNews

Тест Huawei TaiShan 2280 v2 и HiSilicon Kunpeng 920: первый взгляд на китайскую ARM’ию

128 ядер ARMv8.2-A с частотой 2,6 ГГц, 512 Гбайт памяти DDR4-2933 и 12 SAS-накопителей в RAID-массиве — многообещающее начало для знакомства с новой серверной платформой и архитектурой, на которую возложена задача побороть гегемонию x86-64 Нам выпала возможность прикоснуться к заморской диковинке — ARM-серверу Huawei TaiShan. В удалённом формате эти машины предоставляются для теста в рамках Selectel Lab . Ввиду отсутствия физического доступа и наличия ограничений по времени мы не будем вдаваться глубоко в детали, а окинем платформу взглядом свысока. Как если бы это был обыкновенный выделенный сервер где-то в облаке. Но он как раз не обыкновенный: Серия серверов Huawei TaiShan является относительно новой только для нас. На родном, китайском рынке они активно использовались уже давно, в том числе в собственном облаке Huawei Cloud, ещё до всей этой истории с запретами. Впрочем, разрыв отношений с крупными американскими производителями чипов только подстегнул развитие собственной аппаратной платформы. И если дальнейшая поддержка x86-систем остаётся под вопросом, то для текущей ARM-платформы, на которую переведены и другие продукты компании, будущее пока видится неплохим, если доступ к фабрикам не будет перекрыт. Причём речь идёт именно о платформе. Во-первых, есть несколько базовых вариантов — от одного до четырёх сокетов, включая и «лезвия». На их основе создаются конфигурации под различные задачи: от edge-систем до высокоплотных серверов. На той же базе работают и все последние СХД компании. Во-вторых, Huawei избрала стратегию совместной работы с партнёрами на разных рынках, так что базовые варианты могут быть до определённой степени доработаны под локальные нужды. Например, мы уже писали про работу НОРСИ-ТРАНС . На текущем этапе для одного из базовых шасси TaiShan сделана собственная дисковая корзина, бекплейн и соответствующие модификации ПО. У нас на тесте оказался сервер TaiShan 200 2280 v2 . Это сбалансированная модель, как её называет сам производитель, в шасси высотой 2U ( 3D-модель ). Штатная дисковая корзина предлагается в трёх версиях: 12 × 3,5” SAS/SATA, 24/25 × 2,5” SAS/SATA, 8 × 2,5” SAS/SATA + 12 × 2,5” NVMe. RAID тут сторонний — LSI SAS3x08 с опциональным BBU. В списке совместимых также есть модели Microsemi PM82xx и LSI 94x0-8i. Штатный контроллер выполнен в виде мезонина, так что PCIe-слот он не занимает. Для установки иных карт расширения — Infiniband, Ethernet, Fibre Channel, HBA, SSD — в шасси предусмотрено три IO-модуля. Максимум можно получить или 8 слотов PCIe 4.0 x8, или 3 слота PCIe 4.0 x16 + 2 слота PCIe 4.0 x8. Но вообще различных вариантов компоновки IO-модулей немало. Есть варианты для установки дополнительных накопителей 2,5”/3,5”, есть и комбинированные платы, а не просто райзеры. Так что лучше ознакомиться с документацией , чтобы понять возможные сочетания. С LOM-картами, которые тут зовутся FlexIO, дело обстоит проще. Для них есть два слота — и типов модулей тоже два. Huawei TM210 включает четыре 1GbE- порта RJ-45, TM280 — четыре порта 10/25GbE SFP28. Между слотами FlexIO находится блочок с портами iBMC. Блоков питания 80+ Platinum, как обычно, два (1+1) — мощностью до 2 кВт каждый. Хотя базовая платформа потребляет не так уж много, в чём мы убедимся далее. При этом из документации совершенно не ясно, есть ли у БП кабели дополнительного питания для карт расширения. С другой стороны, в списке совместимых «GPU», например, присутствует только ускоритель Atlas 300 на базе чипа Ascend 310 , которому достаточно тех 75 Вт, которые даёт слот PCIe. В целом шасси, быть может, слегка непривычное, но вполне современное. Открытым остаётся вопрос совместимости оборудования, не перечисленного в документации, но за ответом на него Huawei предлагает обращаться к локальным представителям. Опять же, если рассматривать TaiShan как платформу, то под конкретные задачи она вполне может быть «допилена» для поддержки необходимых аппаратных компонентов.

💡 Где захостить и как запустить: рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на ServerSales в интерактивном подборщике AI-моделей или каталоге GPU-серверов.

Где захостить и как запустить

Планируете развернуть эту нейросеть?

На ServerSales вы можете рассчитать точные требования к VRAM под разные типы квантования (4-bit Q4 / FP8 / FP16), оценить скорость генерации (токенов/сек) и сразу подобрать проверенный сервер с GPU от ведущих провайдеров.

Первоисточник материала
Новость опубликована в издании ServerNews.
Вы можете прочитать полную версию статьи и комментарии на сайте источника.
Читать на ServerNews
Проверенные провайдеры под задачи материала

Надежные облачные платформы и серверы в РФ

Весь каталог
SelectelTier III • 152-ФЗ
★ 4.9

Крупнейший IaaS-провайдер РФ: облачные VPS, Bare Metal серверы и GPU-кластеры для ИИ.

Бонус до 3 000 ₽ на облачную платформу
Перейти в Selectel
Timeweb CloudNVMe • Anti-DDoS
★ 4.8

Скоростные VPS от 299 ₽/мес, почасовая тарификация, готовые образы и GPU RTX 4090 / A100.

Скидка 20% на первый заказ VPS
Перейти в Timeweb Cloud
Рекомендуемые конфигурации по теме
В наличииGPU
Hostkey

Hostkey

Россия4.3

GPU RTX 3090 24GB

CPU

8 ядер

RAM

64 ГБ

Диск

500 ГБ NVMe

Канал

1 Гбит/с

GPU

NVIDIA RTX 3090 (24 ГБ GDDR6X)

39/час

24 999 ₽/мес

В наличииGPU
Timeweb Cloud

Timeweb Cloud

Россия4.8

GPU RTX A5000 24GB

CPU

8 ядер

RAM

64 ГБ

Диск

500 ГБ NVMe

Канал

1 Гбит/с

GPU

NVIDIA RTX A5000 (24 ГБ GDDR6X)

36/час

24 999 ₽/мес

В наличииGPU
Hostkey

Hostkey

Россия4.3

GPU RTX 4090 24GB

CPU

16 ядер

RAM

128 ГБ

Диск

1000 ГБ NVMe

Канал

1 Гбит/с

GPU

NVIDIA RTX 4090 (24 ГБ GDDR6X)

47/час

32 999 ₽/мес

Каталог серверов ServerSales

Ищете точную конфигурацию под ваш бюджет?

Используйте наш интерактивный мастер подбора: рассчитайте точные ресурсы CPU, RAM и диска за 3 шага.

Другие новости индустрии

🇷🇺Хабр / Хостинг

Сколько ресурсов ест ИИ‑агент на сервере: замеры на двадцати агентах

Год назад я поднял первого агента на сервере и закладывал память как под обычный скрипт. Через месяц на той же машине жило двадцать, а ещё через неделю она легла целиком. Ниже — цифры, которые я снял на живых машинах, и три ошибки, каждая из которых стоила мне рабочего дня. Это не обзор хостингов. Это замеры своего хозяйства: сколько на самом деле ест агент, почему разброс в семь раз и что ломается раньше памяти. Читать далее 💡 **Где захостить и как запустить:** рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на **ServerSales** в интерактивном [подборщике AI-моделей](/ai) или [каталоге GPU-серверов](/gpu).

🌐Hugging Face Blog

**Знайте, кто когда говорил: создайте искусственный интеллект с несколькими говорящими в реальном времени с помощью NVIDIA Nemotron 3 Diarization**

Рассмотрим стенограмму встречи, разговора с клиентом или подкаста, в которой каждое предложение верно, но ни одно из них не приписано говорящему. Вы можете прочитать слова, но не можете достоверно сказать, кто взял на себя обязательство, кто высказал возражение или какой участник перебил. Поиск, сводки, действия, аналитика разговоров и память голосового агента становятся менее полезными. Диаризация говорящих определяет временные интервалы, в течение которых каждый говорящий активен, включая интервалы, когда люди переговариваются друг с другом. Эти временные метки говорящего затем можно объединить с автоматическим распознаванием речи (ASR) для создания стенограммы, приписываемой говорящему. NVIDIA Nemotron 3 Diarization is an open-weight, 100M-parameter model that ranks #1 on VoiceArena's Diarization-Bench leaderboard with a 14.72% Diarization Error Rate (DER). Supporting up to eight speakers across live and recorded conversations, it handles overlapping speech, chunked processing for flexible recording lengths, and customizable streaming latency. Рисунок 1. Nemotron 3 Diarization №1 в таблице лидеров VoiceArena Diarization-Bench. Earlier models like NVIDIA Streaming Sortformer established this approach for four-speaker diarization, including the streaming diar_streaming_sortformer_4spk-v2.1 checkpoint used as the baseline below. Nemotron 3 Diarization расширяет поддержку до восьми динамиков и повышает точность и пропускную способность, измеренную в следующих оценках. Как работает Nemotron 3 Диаризация Одна модель для оффлайн и потоковых разговоров Системы диаризации должны решать две взаимосвязанные проблемы. Во-первых, они должны распознать речь и назначить ее нужному говорящему. Second, they must preserve that assignment throughout the conversation, even after silence, interruptions, or long gaps between a speaker's turns. Потоковая передача усложняет вторую проблему. Автономная модель может проверить всю запись сразу. Потоковая система получает лишь небольшой фрагмент нового аудио и ограниченный контекст. Without an effective memory mechanism, the speaker assigned to one output channel in the current chunk can be assigned to a different channel in the next. Nemotron 3 Diarization следует подходу Sortformer, который упорядочивает выходные динамики по времени их первого появления. Первый новый голос становится первым каналом динамика, следующий новый голос становится вторым и так далее. This arrival-time ordering makes the model's generic speaker labels stable and removes the need to solve a new speaker permutation for every chunk. 💡 **Где захостить и как запустить:** рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на **ServerSales** в интерактивном [подборщике AI-моделей](/ai) или [каталоге GPU-серверов](/gpu).

🌐Data Center DynamicsAI-адаптация

Техас тормозит дата-центры: власти приостановили выдачу разрешений под аудит ERCOT

Губернатор Техаса Грег Эбботт распорядился временно заморозить выдачу новых разрешений на подключение крупных дата-центров к электросетям штата. Причиной стал масштабный аудит энергосистемы, который проводит техасский системный оператор ERCOT (Electric Reliability Council of Texas). Энергетическая инфраструктура региона испытывает экстремальные нагрузки из-за лавинообразного роста числа ЦОД, ориентированных на облачные вычисления и тяжелые AI-нагрузки. Проверка ERCOT должна оценить реальные резервы мощности и предотвратить дефицит электроэнергии в пиковые периоды. Завершение аудита и публикация отчета запланированы на декабрь текущего года. * **Причины моратория:** Дефицит свободных мощностей в сети ERCOT на фоне бурного строительства дата-центров. * **Сроки:** Заморозка разрешений действует до завершения проверки в декабре. * **Влияние на рынок:** Задержка ввода в эксплуатацию новых серверных площадок и необходимость пересмотра графиков деплоя инфраструктуры. 🔍 Как выбрать сервер: Сравнить актуальные конфигурации серверов на базе этого оборудования и найти минимальные цены от проверенных провайдеров РФ и Европы можно в каталоге ServerSales (/catalog).

💡 Инсайт:Энергетический кризис в ключевых хабах дата-центров тормозит масштабирование инфраструктуры и заставляет операторов пересматривать географию новых проектов.