Обновление Basalt ускоряет работу с моделями Qwen
Версия 0.4.0 добавила поддержку плотных моделей и расширила возможности работы с контентом. Теперь пользователям доступны видео, файлы в чатах и поддержка роутеров.
В обновлении появилась первая плотная модель, Qwen 3.8 27B. Она показывает скорость до 776 токенов в секунду на структурированном выводе. При этом точность top-1 составляет 92,8% относительно полной версии BF16. Это решение готовили заранее для поддержки будущей линейки Qwen 4.
Разработчики добавили поддержку видео и работу с файлами. Также реализована поддержка мультимодельности и роутеров, начиная с DeepSeek V4.1 Flash.
Что поменялось
Добавлена поддержка плотных моделей, видео и файлов в чатах при сохранении высокой скорости генерации.
Текст подготовила языковая модель по материалам источников.
