Интеграция Together AI и Hugging Face: дообучение любых языковых моделей в пару кликов

Together AI и Hugging Face объявили о запуске бесшовной интеграции, которая позволяет отправлять на дообучение (fine-tuning) практически любые открытые модели из репозитория Hugging Face прямо на инфраструктуре Together. Разработчикам больше не нужно вручную развертывать громоздкие кластеры с DeepSpeed или FSDP и тратить время на настройку окружения — весь процесс запускается через простой Python-скрипт. Главные технические особенности релиза: - Двусторонняя интеграция: Платформа умеет забирать как публичные модели, так и приватные репозитории (при наличии HF-токена). - Шаблонизация архитектур: Для запуска обучения используется базовая модель-шаблон, которая задает правила распределения VRAM, настройки пайплайна и оптимизацию под GPU (важно, чтобы архитектура целевой модели совпадала с базовой, например, Llama-подобные стеки). - Автоматический экспорт: Готовые веса можно сразу же выкатывать обратно в Hugging Face Hub через параметр `hf_output_repo_name` для командной работы. 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты этой модели, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).