Jupyter Agents: новый подход к обучению LLM для Data Science через исполнение кода

Разработчики представили проект Jupyter Agents — инструмент, позволяющий LLM нативно работать внутри Jupyter Notebook, выполняя код и анализируя данные в режиме реального времени. В отличие от классических IDE-ассистентов, этот агент заточен под Data Science пайплайны, где критически важно видеть цепочку рассуждений (reasoning) в связке с выводом кода. Ключевые аспекты проекта: * Фокус на компактных моделях: Основная цель — дообучение легковесных моделей (в качестве базы взята Qwen3-4B-Thinking-2507) для выполнения сложных агентских задач, с которыми сейчас справляются только тяжелые проприетарные LLM. * Бенчмарк DABStep: Для оценки прогресса используется специализированный набор тестов DABStep, который имитирует реальные задачи анализа данных. Текущие SOTA-модели (включая Claude 3.5 Sonnet) показывают на нем менее 20% точности, что подчеркивает сложность задачи. * Практическая ценность: Создание пайплайна для генерации качественных датасетов под агентские задачи, что позволяет снизить требования к VRAM при сохранении высокой точности инференса. 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты этой модели, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).