Hugging Face TGI добавляет нативную поддержку чипов Intel Gaudi: конец эпохи форков

Разработчики Hugging Face завершили интеграцию поддержки ускорителей Intel Gaudi непосредственно в основную кодовую базу Text Generation Inference (TGI). Ранее проект tgi-gaudi развивался как отдельный форк, что создавало лишнюю головную боль при развертывании и задерживало доступ к свежим фичам. Благодаря новой мультибэкенд-архитектуре TGI, запуск инференса на оборудовании Intel теперь происходит «из коробки» без костылей и кастомных репозиториев. Главные технологические изменения и особенности релиза: * Отказ от форка: Полное слияние с мейнстрим-веткой TGI в рамках PR #3091. * Оптимизированные модели: Адаптированные под специфику чипов Gaudi конфигурации для работы как на одиночных ускорителях, так и в многочиповых (multi-card) контурах. * Простой деплой: Использование официальных Docker-образов с рантаймом habana и флагом `--runtime=habana` для быстрой инициализации. 💡 Как выбрать сервер: Сравнить актуальные конфигурации серверов на базе этого оборудования и найти минимальные цены от проверенных провайдеров РФ и Европы можно в каталоге ServerSales (/catalog).