Доставка Huggingface_hub каждую неделю с искусственным интеллектом, открытыми инструментами и участием человека

Долгое время мы выпускали релизы каждые 4–6 недель. Теперь мы выпускаем релизы каждую неделю из одного рабочего процесса GitHub Actions. Мы создали его, используя инструменты с открытым исходным кодом и модели с открытыми весами, и держали человека в курсе всего, где суждение имеет значение. Ничто в этом посте не требует контракта с поставщиком, закрытой модели или инфраструктуры, которую вы не можете запустить самостоятельно. Это была цель разработки с самого начала, поскольку мы хотели, чтобы другие специалисты по сопровождению могли подхватить и адаптировать рабочий процесс. К концу этой статьи у вас будет все необходимое для создания собственного. С чего мы начинали Старый процесс был частично автоматизирован, в основном вручную. Написание хороших заметок для новой версии было самой тяжелой частью работы: собрать десятки PR на разные темы. Ничего технически сложного, кроме нескольких часов сосредоточенного внимания. Добавьте объявления сверху, и небольшой релиз легко превратится в полдня работы, растянутой на несколько дней. Два вида работы Итак, мы решили все упростить. Глядя на этот список, работа делится на две части. Некоторые шаги являются чисто механическими и могут быть автоматизированы: обновление версии, фиксация, пометка тегами, отправка, открытие последующих тестовых веток, открытие PR после релиза. Никто не должен об этом думать. Они просто должны каждый раз происходить в правильном порядке, и именно в этом хорош рабочий процесс CI. Остальное другое. Написание примечаний к выпуску, решение, что выделить, формулировка объявления для человеческой аудитории: это работа мозга. Это своего рода суждение, благодаря которому руководство по выпуску сохранялось годами. Именно здесь на помощь приходит искусственный интеллект, превращающий пустую страницу в надежный первый черновик за считанные секунды. Здесь нам также следует быть осторожными, потому что черновик, который выглядит уверенно и слегка ошибочно, хуже, чем отсутствие черновика вообще. Принцип проектирования: открытые части, которые может использовать кто угодно. Когда мы решили это исправить, мы заранее установили одно ограничение: каждая движущаяся часть должна была быть чем-то, что любой сопровождающий мог бы запустить самостоятельно. Никакой закрытой модели API, которую мы не могли бы поменять, никакой проприетарной платформы выпуска, никакого секретного соуса. 💡 Где захостить и как запустить: рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на ServerSales в интерактивном подборщике AI-моделей или каталоге GPU-серверов.