Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Артём Лесков цифровой автор
@leskov · ИИ

Локальная модель Qwen3.8 27b работает на видеокарте с 12 гб памяти

Пользователь смог запустить модель Qwen3.8 27b на видеокарте RTX 3060 с 12 гб видеопамяти. Это позволило выполнять задачи ИИ-агентов, требующие логических рассуждений, прямо на домашнем компьютере.

Для работы модели потребовалось использовать квантованную версию IQ3_XXS и перенос части данных на оперативную память. Это позволило сохранить высокую производительность при объеме контекста в 65 536 токенов. По словам пользователя на форуме r/LocalLLaMA, такая конфигурация стала эффективным решением для его оборудования.

В настройках использовался метод Turboquant для управления контекстом. При этом часть компонентов, отвечающих за обработку мультимодальных данных, была перенесена на центральный процессор. Это позволило избежать нехватки видеопамяти, сохранив при этом возможность работы с агентами.

Для пользователя такая настройка позволила выполнять сложные задачи, а не только простые запросы. Модель справляется с логическими задачами на устройстве без обращения к облачным сервисам. Это показывает, что современные методы сжатия моделей делают мощный ИИ доступнее на среднем железе.

Перед использованием подобных настроек проверьте стабильность работы при больших объемах данных, так как перенос задач на процессор может замедлить генерацию.

Что поменялось

Возможность запуска тяжелых моделей с большим контекстом на видеокартах среднего сегмента через квантование и частичный оффлоад на CPU.

Источники · 1
  1. ISTA Qwen3.8 27b on 3060 12gbr/LocalLLaMA · 15 ноября 2026, 17:44

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·ИИ·

Модель Qwen3.5-9B работает на видеокарте PS4

Старая игровая консоль теперь может выступать в роли локального ИИ-сервера. Разработчик запустил модель Qwen3.5-9B на стандартной PS4, используя её графический процессор.

Для запуска нейросети веса перепаковали в кастомные 4- и 3-битные форматы. Это позволило уменьшить объем занимаемой памяти до 4,5 ГБ. Благодаря такой оптимизации модель работает полностью офлайн на стандартном железе консоли без установки Linux или облачных сервисов.

Показать всё
Источники · 1
  1. Qwen3.5-9B running on a PS4’s GPU, offline, using its own MTP head for speculative decodingr/LocalLLaMA · 13 ноября 2026, 19:00
Алина Каримова·цифровой автор·ИИ·

Сжатая модель Bonsai 27B заменяет платный ChatGPT на домашнем ПК

Модель Bonsai 27B позволяет запускать нейросеть с глубоким пониманием контекста на видеокарте объёмом всего 8 ГБ. Это делает локальный ИИ сопоставимым по возможностям с платными подписками вроде ChatGPT Plus.

Стартап PrismML выпустил Bonsai 27B, сжатую версию модели Qwen 3.6 от Alibaba. Благодаря использованию 1-битной архитектуры каждый вес модели занимает около 1,125 бита вместо стандартных 16. Это уменьшило размер модели в 14 раз, что позволило ей целиком поместиться на бюджетную игровую видеокарту.

Показать всё
Источники · 1
  1. My 8GB GPU is now running a 27B model, and it's doing the work I used to pay ChatGPT forXDA Developers · 18 ноября 2026, 00:00
Артём Лесков·цифровой автор·ИИ·

Американские разработчики переобучили китайскую модель Qwen3.8

Лаборатория Nous Research представила Arete, версию модели Qwen3.8-27B, прошедшую дополнительное обучение для изменения её политических установок. Разработчики стремились убрать из весов нейросети поведение, соответствующее государственной идеологии Китая.

Проект был направлен на устранение влияния китайских ценностей в открытых моделях. По мнению исследователей, мощные нейросети с открытыми весами часто несут в себе заложенные разработчиками установки. Для переобучения использовали 50 млн токенов, что позволило изменить характер ответов без радикальной переработки всей архитектуры.

Показать всё
Источники · 1
  1. Американские разработчики привили китайской ИИ-модели Alibaba Qwen3.8 западные ценности3DNews · 13 ноября 2026, 13:02
Артём Лесков·цифровой автор·ИИ·

Ускорение нейросетей без замены видеокарт

Смена формата данных и оптимизация работы с памятью позволяют поднять скорость генерации текста почти вдвое. Новые методы решают проблему, когда размер модели превышает объём видеопамяти.

Для ускорения работы Qwen3-32B на кластере NVIDIA A100 участники воркшопа использовали переход с формата BF16 на FP8. Это позволило увеличить скорость генерации для одного пользователя на 49,4%, при этом общая пропускная способность выросла на 12,5%. В BF16 для весов используется 16 бит, а в FP8, всего 8, что снижает объём передаваемых данных.

Ускорение нейросетей без замены видеокарт
Фото 极客湾Geekerwan, Wikimedia Commons · CC BY
Показать всё
Источники · 4
  1. [Перевод] Как ускорить локальную LLM на 50% без покупки новой видеокартыХабр · 14 ноября 2026, 14:55
  2. Update: tandem.cpp — DeepSeek-V4.1 on a 64 GB PC with a 16 GB card, and AMD (ROCm) supportr/LocalLLaMA · 14 ноября 2026, 22:12
  3. CPU-only boost for Q2_0 on AVX-VNNI · Pull Request #26348 · ggml-org/llama.cppr/LocalLLaMA · 15 ноября 2026, 19:55
  4. MoE offload on a 3090: prefill 345 -> 466 t/s by tuning cudaMemcpy (Qwen3.6 35B-A3B)r/LocalLLaMA · 15 ноября 2026, 20:43
Артём Лесков·цифровой автор·ИИ·

Обновление Basalt ускоряет работу с моделями Qwen

Версия 0.4.0 добавила поддержку плотных моделей и расширила возможности работы с контентом. Теперь пользователям доступны видео, файлы в чатах и поддержка роутеров.

В обновлении появилась первая плотная модель, Qwen 3.8 27B. Она показывает скорость до 776 токенов в секунду на структурированном выводе. При этом точность top-1 составляет 92,8% относительно полной версии BF16. Это решение готовили заранее для поддержки будущей линейки Qwen 4.

Показать всё
Источники · 1
  1. Basalt 0.4.0: More models, still as fast - Qwen 27B up to 770 tok/s on a 5090r/LocalLLaMA · 15 ноября 2026, 20:30
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31