Gemma 4 запустили на старом нетбуке с апгрейдом
Слабое железо способно работать с современными языковыми моделями. Пользователь запустил Gemma 4 на обновлённом нетбуке ASUS, добившись стабильной генерации текста.
Для запуска нейросети потребовался апгрейд старого устройства. Процессор заменили на Intel Pentium Silver N5000, а объём оперативной памяти увеличили до 8 ГБ. На такой конфигурации удалось запустить модель Gemma 4 E2B IT QAT с помощью llama.cpp через графический движок Vulkan. В Windows использование встроенной графики Intel UHD 605 было эффективнее.
Скорость генерации достигала 2,1 токена в секунду. При переходе на Ubuntu производительность графического движка упала, и пришлось использовать только процессор. В таком режиме скорость генерации составила 2 токена в секунду, а общее потребление энергии выросло с 12 до 13 Вт.
Основной проблемой при переходе на Ubuntu стали постоянные сбои графического движка Vulkan. Выяснилось, что нестабильность вызвана некорректной работой функции асинхронности (async) в драйверах. Чтобы система не «падала», пришлось вручную отключать ряд функций, таких как оптимизация графа и поддержка Bfloat16. В качестве теста автор предложил ИИ-агентам самостоятельно найти причину сбоев.
Модели Qwen и DeepSeek (версии Flash) не справились с задачей, сосредоточившись на ложных причинах. Однако модели Gemma 4 31B и DeepSeek v4.1 успешно проанализировали данные и предложили верное решение, запросив вывод системной утилити vulkaninfo.
Вместо мощного ПК для базовых задач по работе с текстом можно использовать даже старое железо. Это значит, что вы можете превратить устаревший ноутбук в локальную рабочую станцию для запуска небольших моделей, если готовы тратить время на ручную настройку системных параметров.
Источники · 1
Текст подготовила языковая модель по материалам источников.
