Знакомство с Ampere Altra Q80-30: не умением, так числом?

Процессор Ampere Altra Q80-30 интригует сразу — 80 Arm-ядер с частотой 3,0 ГГц при TDP в 210 Вт не могут предложить ни AMD, ни Intel. Добавьте к этому 128 линий PCIe 4.0, 8 каналов DDR4-3200 с поддержкой до 4 Тбайт RAM на процессорный разъём и очень вкусную рекомендованную цену. А ведь это даже не самая старшая модель в серии! Путь Arm на серверный рынок оказался долгим и тернистым — и он всё ещё не закончен. Достаточно вспомнить заметные разработки и их в основном печальный конец. Например, 10 лет назад Calxeda анонсировала первые серверные Arm-платформы на базе Cortex-A9, которые были скорее компактными кластерами — такие системы на базе современных SoC и одноплатников создавала , к примеру, Bamboo — и которые, по задумке компании, могли бы пригодиться гиперскейлерам. Через год после анонса уже сама Arm громко заговорила о лицензировании своей архитектуры для серверных систем. Ещё через год Calxeda закрылась, но о планах по развитию Arm-чипов для серверов начали говорить уже именитые разработчики и производители. Правда, планы оказались по большей части всего лишь планами, несмотря на вложенные в разработки средства. AMD на два года задержала A1100 и массовый выпуск не наладила. Qualcomm делала-делала Centriq 2400 (и даже анонсировала следующее поколение, Firetrail ) — да и забросила . А потом и вовсе купила новичка на этом рынке, компанию Nuvia, но в серверный сегмент пока соваться, судя по всему, не очень хочет. Наследие проекта Broadcom Vulcan оказалось наиболее живучим — попав в руки Cavium, а затем и Marvell, оно не только успело развиться, но и достигло некоторых успехов в HPC и облаках . Увы, чипы ThunderX, дотянув до третьего-четвёртого поколения, оказались в одночасье заброшены Marvell, которая тоже хотела производить их для гиперскейлеров. Серия HiSilicon Kunpeng активно используется в оборудовании и облаке Huawei, но дальнейшая их судьба под вопросом в связи с санкциями США. Все эти события подорвали доверие к Arm как к серверной платформе. Как нам сказал один из крупных серверных вендоров, однажды обжегшись, компания стала очень аккуратно относиться к «нетрадиционным» разработкам. При этом в более узких нишах уже можно говорить об успехах. В сегменте HPC прекрасно показал себя Fujitsu A64FX , который стал основой для Fugaku . Тут, правда, в очередной раз стоит отметить, что это узкоспециализированный чип, концептуально похожий скорее на Xeon Phi, чем на обычные CPU. Да и энергоэффективным Fugaku никак не назовёшь, хотя именно на эту особенность Arm-решений упирают остальные производители. У китайской Phytium , судя по всему, всё тоже не так плохо. А уж в сегменте гиперскейлеров всё вообще очень интересно. Платформа с третьим поколением Arm-процессоров Amazon Graviton сумела обогнать в некоторых аспектах решения AMD и Intel. Alibaba тоже движется в эту же сторону. Но всё это чипы, созданные под нужды конкретной компании, и просто так купить их нельзя. Кто остаётся? Есть как минимум ещё один неупомянутый проект серверных Arm-процессоров времён Calxeda — X-Gene от Applied Micro. Эта компания в результате ряда сделок стала основой для Ampere Computing, а третье поколение чипов X-Gene — для Ampere A1/eMAG. Зато Ampere получила не только наработки, но и часть команды, имеющей опыт в разработке CPU. В прошлом году компания анонсировала 80-ядерные Ampere Altra (кодовое имя Quicksilver), а ещё через несколько месяцев — и 128-ядерные Ampere Altra Max (Mystique). Оба варианта изготовлены по 7-нм техпроцессу и совместимы на уровне процессорных разъемов. Новинки появились в Equinix Metal и у ряда гиперскейлеров, включая облако от Oracle , которая вложилась в Ampere пару лет назад. На уровне платформ компанию в первую очередь поддержали Wiwynn и GIGABYTE. Последняя недавно анонсировала уже вторую волну Altra-серверов, впрочем, отличающуюся от первой не столь уж существенно. В следующем году Ampere грозится представить процессоры уже с собственными 5-нм ядрами Siryn , которые, в частности, достанутся Microsoft и Tencent . 💡 Где захостить и как запустить: рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на ServerSales в интерактивном подборщике AI-моделей или каталоге GPU-серверов.