Сжатая модель DeepSeek V4.1 Flash показывает результаты флагманов
Система на шести видеокартах RTX 3090 позволила запустить экстремально сжатую версию нейросети. Тесты показали, что модель с низким весом сохраняет интеллект топовых решений полугодовой давности.
Несмотря на сильное уменьшение объёма модели, её производительность в бенчмарке APEX 2025 оказалась сопоставима с несжатыми версиями оригинала.
Для тестов использовалась машина с процессором Threadripper и шестью видеокартами RTX 3090. При ограничении мощности карт до 175 Вт скорость генерации текста составила 75 токенов в секунду, а скорость обработки входного запроса, около 1000 токенов в секунду.
Текст подготовила языковая модель по материалам источников.


