Работа над ошибками: подробности об Intel Xeon Emerald Rapids

Intel доказала, что всё-таки может создавать 64-ядерные серверные процессоры. Помимо увеличения числа ядер, в пятом поколении Xeon Scalable компания развила концепции, заложенные в Sapphire Rapids. Но насколько жизнеспособной выглядит новая серверная платформа Intel? В декабре корпорация Intel анонсировала новые решения под брендом Xeon. Главной «звездой» анонса стали процессоры Emerald Rapids — Xeon Scalable пятого поколения, которые идут на смену четвёртому поколению Sapphire Rapids . Это во многом существенный апгрейд, хотя Emerald Rapids являются скорее «разминкой» перед выходом Granite Rapids. При этом платформа у Sapphire Rapids и Emerald Rapids одна и та же — Eagle Stream. Кроме того, Emerald'ы станут последними процессорами в рамках текущего подхода компании, поскольку на смену им идут сразу две серии CPU с E- и P-ядрами: Sierra Forest и Granite Rapids . Есть и другие нюансы. Так, например, пятое поколение Xeon включает несколько CPU, фактически относящихся к серии Sapphire Rapids. При этом в некоторых аспектах Emerald Rapids не дотягивают до Sapphire Rapids, поскольку среди них нет Max-процессоров и нет поддержки 4- и 8-сокетных систем. Intel в своей презентации сделала упор на развитие ИИ-технологий и специфических ускорителей. С одной стороны, такой подход нельзя назвать новым — уже очень давно отставая от AMD по количеству ядер в сегменте серверных решений, Intel вынуждена отвечать асимметрично, упирая на дальнейшее расширение существующих наборов инструкций, таких как AVX-512, и на внедрение новых, таких как AMX, а также отдельных блоков для узких задач. В пятом поколении Xeon Scalable ситуацию с количеством ядер Intel удалось подтянуть — в серии Emerald Rapids есть и 64-ядерные модели. Но AMD-то опять успела уйти вперёд в количественном отношении с 96-ядерными процессорами EPYC Genoa , представленными более года назад. При этом AMD даже дала некоторую фору Intel, но последней это не особо-то и помогло. Количественные показатели новых Xeon Scalable компания подтянула заметно: общий прирост производительности в сравнении с Sapphire Rapids по данным Intel составляет 21 %, а в инференс-сценариях — аж на 42 %. Для достижения столь серьёзного прироста Emerald Rapids, в числе прочего, получили поддержку памяти DDR5-5600 и увеличенный до 320 Мбайт кеш последнего уровня (LLC). Для обеспечения гибкости в конфигурации серверных подсистем памяти заявлена поддержка устройств CXL 1.1 Type 1/2/3. Компания по-прежнему использует несколько разных типов компоновки, в отличие от AMD, жонглирующей одинаковыми «кубиками». Во флагманских моделях Emerald Rapids с числом ядер до 64 применяется компоновка XCC с двумя тайлами , в то время как в моделях с числом ядер до 32 применена более простая монолитная компоновка (MCC). Имеется также малоядерная, но энергоэффективная компоновка EE LCC, где количество ядер не превышает 20. Все ядра — Raptor Cove P-класса. Фактически это чуть подтянутые Golden Cove с переработанной архитектурой кешей и небольшим приростом IPC. Это довольно серьёзный шаг вперёд в сравнении с Sapphire Rapids, где для старших моделей Intel была вынуждена использовать компоновку с четырьмя тайлами. Переработана и геометрия интерконнекта: ранее четыре тайла соединялись друг с другом посредством четырёх же мостиков EMIB, а теперь на два тайла приходится три мостика, что в теории должно положительно сказываться на производительности в случае активной пересылки данных между кластерами ядер в разных тайлах. 💡 Где захостить и как запустить: рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на ServerSales в интерактивном подборщике AI-моделей или каталоге GPU-серверов.