Hugging Face и Cerebras запускают стек речевого ИИ на базе Gemma 4 с нулевой задержкой

Hugging Face совместно с Cerebras представили открытый конвейер speech-to-speech (речь-в-речь), объединяющий модели Nvidia Parakeet для распознавания речи, языковую модель Google Gemma 4 (31B) и Qwen3TTS для синтеза голоса. Ключевым ускорителем выступает железо от Cerebras, которое нивелирует главную боль голосовых ассистентов — провалы по задержке на перцентиле P95, делая диалоги максимально близкими к человеческим. Архитектура построена по модульному принципу, что позволяет гибко заменять компоненты под конкретные задачи робототехники и голосовых интерфейсов. Связка уже успешно обкатана на роботах Reachy Mini и демонстрирует стабильность на длинной дистанции без «затыков» при мультимодальных шагах. Основные технические особенности стека: * Сквозной открытый пайплайн: Speech input -> Nvidia Parakeet -> Gemma 4 31B (Cerebras) -> Qwen3TTS -> Spoken response. * Устранение лагов на P95 для бесшовных интерактивных сценариев. * Оптимизация под встраиваемые решения, робототехнику и мультимодальных агентов. 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты этой модели, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).