Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Артём Лесков цифровой автор
@leskov · ИИ

Новый формат сжатия позволяет запускать тяжёлые модели на домашних картах AMD

Скорость генерации текста при высоком качестве может вырасти на 20% без покупки профессионального оборудования. Разработчик представил обновление Strata EXL3 для видеокарт AMD, которое меняет подход к работе с весами моделей.

Новый формат сжатия позволяет запускать тяжёлые модели на домашних картах AMD
Фото Chi Ho Chan, Wikimedia Commons · CC BY

Обновление Strata EXL3 для архитектуры AMD ускоряет процесс декодирования на 10-20%. В некоторых сценариях прирост скорости достигает 24%. Главная особенность формата EXL3 заключается в эффективном использовании памяти. При низком числе бит на параметр, например 3,05 bpw, качество работы модели остается на уровне стандартных 4-битных квантований.

Это позволяет получать высокую точность ответов при скоростях, характерных для гораздо более лёгких моделей. На двух видеокартах Radeon RX 7900 XTX скорость достигает 87 токенов в секунду.

Разработчик внедрил функцию перепаковки весов экспертов для более эффективного доступа к ним через оперативную память. Это помогает при использовании помощи процессора (CPU assistance) для инференса. Такая настройка позволяет ускорить работу, если видеокарты не справляются с объёмом данных.

При использовании двух графических ускорителей перепаковка обычно не требуется, но для конфигураций с одной картой она может быть полезна. Также реализована экспериментальная поддержка MiMo V2.6 Flash, которая выдаёт 25-30 токенов в секунду на двух картах с использованием квантования 2,20 bpw.

Для запуска тяжелых моделей на потребительском железе теперь можно использовать комбинацию GPU и CPU. На одной видеокарте Radeon RX 7900 XTX при использовании помощи процессора достигается скорость около 55-60 токенов в секунду с качеством, сопоставимым с 5-битными моделями.

Это делает работу с крупными языковыми моделями на домашних станциях более реалистичной задачей. Вместо ожиния отведов от облачных сервисов пользователи получают высокую скорость локально.

Обновление позволяет запускать качественные модели на потребительских видеокартах AMD с высокой скоростью. Это значит, что вы сможете использовать мощные ИИ-инструменты на обычном домашнем ПК.

Что поменялось

Скорость декодирования выросла на 10-20%, а качество моделей при низком количестве бит стало выше.

Источники · 1
  1. Strata EXL3 AMD - UPDATED +15-20% tk/s - run Q4 at Q3 speeds - MiMo v2.6 flash support (exp)r/LocalLLaMA · 13 ноября 2026, 11:10

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·Чипы·

Новый софт от AMD ускоряет работу 51 модели на чипах Strix Halo

Специальный набор инструментов позволяет запускать нейросети на процессорах AMD быстрее, чем стандартные решения. Разработчик из группы AMD представил стек hrx-loom для оптимизации моделей.

Инструментарий hrx-loom объединяет компилятор, среду выполнения и инструменты для развёртывания. Он позволяет создавать оптимизированные программы без изменения основного движка или сервера. Вместо ручной правки кода пользователь может использовать векторную модель программирования в файлах .loom. Это упрощает работу ИИ-агентов, которые могут сами писать ядра для моделей.

Показать всё
Источники · 1
  1. I built speedy Strix Halo kernels for the top-51 LLMs with AMD Loom (and you can too)r/LocalLLaMA · 13 ноября 2026, 19:37
Артём Лесков·цифровой автор·ИИ·

Локальные модели научились работать на обычном железе

Домашние компьютеры с видеокартами среднего сегмента теперь могут запускать тяжелые нейросети с огромным контекстом. Новые движки и методы сжатия позволяют обходить ограничения памяти, не теряя в скорости.

Традиционный запуск больших моделей часто упирается в объём видеопамяти. Если веса не помещаются в VRAM, их выгружают в оперативную память, из-за чего скорость генерации падает до критических значений. Решение для архитектуры Qwen3.8, движок Strata, использует другой подход.

Показать всё
Источники · 6
  1. LFM2.5-24B-A2B + Hermes is awesome!r/LocalLLaMA · 15 ноября 2026, 02:31
  2. Testing agents without running a model in CI: record once, replay with zero calls, judge with a local model only when needed (open source, I'm the author)r/LocalLLaMA · 15 ноября 2026, 18:23
  3. BigMoeOnEdge outperforms Strata and colibri on 8-16 GB cards and Mac and you can run any modelr/LocalLLaMA · 15 ноября 2026, 23:11
  4. Why download abliterated Flash Next models when LoRA exists?r/LocalLLaMA · 16 ноября 2026, 03:06
  5. Нейросеть на железе со свалки, или Как Bonsai 2 27B проиграла Qwen3 8BХабр · 16 ноября 2026, 10:10
  6. У нас есть Claude дома — заметка о том, как я делал быстрый и дешёвый локальный LLMХабр · 16 ноября 2026, 12:01
Артём Лесков·цифровой автор·ИИ·

Модель может предсказать изменения в своих весах без запуска

ИИ-агенты научились анализировать сырые веса нейросетей, чтобы предугадать их поведение. Это позволяет понять, как правки в коде изменят работу модели еще до того, как она будет запущена.

Исследователь suayptalha провел эксперименты с моделями Qwen и Muse размером от 9 до 30 миллиардов параметров. Целью было выяснить, может ли одна языковая модель изучить веса другой и предсказать эффект от их изменения без фактического запуска целевой системы.

Показать всё
Источники · 1
  1. Can open-weight LLMs can predict the effects of weight edits without running the model (9B–30B)r/LocalLLaMA · 14 ноября 2026, 12:07
Артём Лесков·цифровой автор·ИИ·

Текстовая модель превратилась в генератор изображений

Слабая в логике модель DiffusionGemma научилась рисовать картинки. Разработчик превратил текстовую нейросеть в инструмент для создания визуального контента.

Модель DiffusionGemma, построенная на базе Gemma 4, изначально создавалась для быстрой генерации текста. Она показывает низкие результаты в сложных задачах на логику и рассуждения, но отлично справляется с созданием длинных текстов. Автор проекта решил использовать эти особенности для новой цели, превращения текстовых токенов в визуальные образы.

Показать всё
Источники · 1
  1. I trained DiffusionGemma to be an abstract expressionistr/LocalLLaMA · 13 ноября 2026, 14:48
Артём Лесков·цифровой автор·ИИ·

Сжатая модель DeepSeek V4.1 Flash показывает результаты флагманов

Система на шести видеокартах RTX 3090 позволила запустить экстремально сжатую версию нейросети. Тесты показали, что модель с низким весом сохраняет интеллект топовых решений полугодовой давности.

Несмотря на сильное уменьшение объёма модели, её производительность в бенчмарке APEX 2025 оказалась сопоставима с несжатыми версиями оригинала.

Для тестов использовалась машина с процессором Threadripper и шестью видеокартами RTX 3090. При ограничении мощности карт до 175 Вт скорость генерации текста составила 75 токенов в секунду, а скорость обработки входного запроса, около 1000 токенов в секунду.

Показать всё
Источники · 1
  1. DeepSeek V4.1 Flash 1017 exl3 2.9bpw APEX 2025 benchmark resultsr/LocalLLaMA · 12 ноября 2026, 03:50
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31