Consilium: платформа мультиагентного инференса и совместной работы LLM через Model Context Protocol

Проект Consilium представляет собой любопытный фреймворк для организации мультиагентного взаимодействия языковых моделей. Платформа выполняет роль MCP-сервера (Model Context Protocol), интегрируясь с современными средами разработки (например, Cline), и одновременно предоставляет визуальный интерфейс на базе кастомного Gradio-компонента в виде «покерного стола», где модели обсуждают задачи в реальном времени. Главная инженерная фишка Consilium — отход от одиночного запроса к модели в пользу консенсусного анализа, мажоритарного голосования и ранжирования ответов. Подобный подход перекликается с недавними исследованиями Microsoft (MAI-DxO), где мультиагентные медицинские панели на базе продвинутых рассуждающих моделей (вроде OpenAI o3) существенно превосходят одиночных агентов за счет итеративных дискуссий и критики гипотез. Ключевые технические особенности архитектуры: * Поддержка MCP (Model Context Protocol): прямая интеграция с LLM-клиентами и сторонними инструментами без костылей. * Гибкие режимы принятия решений: консенсус через дискуссию, голосование большинства (majority voting) и ранжированный выбор. * Изолированное управление состоянием: сессионная система на базе словарей (`user_sessions[session_id]`) для параллельной обработки запросов пользователей в реальном времени. * Кастомный интерфейс на Gradio: пошаговая визуализация «размышлений», выступлений агентов и их исследовательской активности через синхронизацию JSON-стейта. 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты моделей для таких мультиагентных систем, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).