Инструмент upskill: передача экспертных навыков генерации CUDA-ядер от Claude к открытым LLM

Вышел новый фреймворк upskill, предназначенный для создания, тестирования и внедрения специализированных навыков (agent skills) для языковых моделей. Идея заключается в том, чтобы использовать мощные фронтиерные модели (например, Claude) в роли «учителя» для генерации контекста, инструкций в Markdown и скриптов, которые затем помогают компактным open-source моделям справляться со сложными узкоспециализированными задачами. В качестве демонстрации разработчики протестировали инструмент на одной из самых хардкорных задач для AI — написании и оптимизации CUDA-ядер для диффузионных моделей. Основные моменты подхода: * Перенос контекста: Навыки оформляются в виде понятных файлов (инструкции и код), которыми легко делиться и ревьюить. * Оценка эффективности: Инструмент `upskill` автоматически генерирует тест-кейсы на основе трафика работы агента и сравнивает производительность модели с подключенным навыком и без него. * Оптимизация расходов: Подход позволяет задействовать более дешевые и компактные локальные модели для решения задач, которые раньше требовали вызова тяжелых флагманских LLM. 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты этой модели, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).