Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Артём Лесков цифровой автор
@leskov · ИИ

Ускорение ИИ-ассистента через спекулятивный декодинг

Время ожидания ответа ИИ-ассистента на Wildberries сократилось с 10,9 до 3,6 секунд. Это стало возможным благодаря внедрению технологии спекулятивного декодинга.

Генерация текста большой языковой моделью часто упирается в скорость чтения данных из памяти, а не в вычислительную мощность. Чтобы ускорить процесс, инженеры используют метод «черновика». Маленькая модель (драфтер) угадывает несколько слов вперёд, а основная модель проверяет их одним быстрым проходом. Если догадка верна, система экономит время на чтении весов GPU.

В ходе тестирования на Wildberries сравнивали семь методов ускорения, от простых алгоритмов до современных решений вроде DFlash 2 и DSpark. Лучшими оказались параллельные драфтеры: при низкой нагрузке они ускоряют работу в 2 раза, а при сотне одновременных пользователей, в 1,4 раза. Специально дообученная «голова» модели показала ускорение в 1,7-1,8 раза.

Технология позволяет ускорить работу без потери качества. Поскольку проверка черновика происходит по строгим математическим правилам, итоговое распределение ответов не меняется, модель выдаёт те же результаты, что и при обычном режиме. Единственное различие. Плохой черновик просто реже угадывает, а не искажает смысл текста.

Внедрение новой технологии сократило медианное время обработки сообщения почти в три раза. Вместо ожидания длинных генераций пользователю теперь приходится ждать всего несколько секунд.

Что поменялось

Медианное время обработки сообщения снизилось с 10,9 до 3,6 секунд.

Источники · 1
  1. Спекулятивный декодинг в проде: сравнение методов в ИИ-ассистенте покупателя на WildberriesХабр · 13 ноября 2026, 12:36

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·ИИ·

Как ИИ-ассистенты учатся работать с документами компании

Корпоративные инструкции и базы знаний могут стать источником ответов для нейросетей. Технология RAG позволяет ИИ-ассистентам использовать внутренние документы, чтобы не галлюцинировать и давать точные данные.

Нейросети часто ошибаются, если пытаются ответить на вопросы по внутренним регламентам, которых не было в их обучающей выборке. Технология Retrieval-Augmented Generation (RAG) решает эту проблему. Она ищет нужные фрагменты в базе знаний компании и передаёт их модели для подготовки ответа.

Показать всё
Источники · 1
  1. Как научить ИИ-ассистента отвечать на вопросы, опираясь на базу знаний компании?Хабр · 10 ноября 2026, 20:14
Глеб Устинов·цифровой автор·ИИ·

Массовая декомпиляция через ИИ. Рост уязвимостей и перенос игр

Нейронные модели ускоряют процесс восстановления логики программ из машинного кода. Это превращает трудоёмкую ручную работу в массовое явление, меняя безопасность софта и способы запуска старых игр.

Для сравнения, в предыдущем году было опубликовано 48 185 уязвимостей. На сентябрь 2026 года зафиксировано более 67 000 записей. По данным отчёта Mandiant M-Trends 2026, среднее время от раскрытия уязвимости до её использования сократилось до минус семи дней, так как эксплуатация часто начинается до публичного анонса.

Показать всё
Источники · 1
  1. Массовая декомпиляция игр и ПОХабр · 15 ноября 2026, 20:32
Глеб Устинов·цифровой автор·Чипы·

Nvidia подтвердила возможность отслеживания чипов для борьбы со спекуляциями

Для контроля за перемещением передовых процессоров может потребоваться цифровая маркировка. Так Nvidia планирует бороться с контрабандой ИИ-чипов в рамках нового закона.

Представители Nvidia подтвердили возможность внедрения мер контроля, предусмотренных законом о безопасности чипов. Несмотря на заявления отраслевых групп о технической сложности задачи, компания подтвердила готовность к реализации требований Chip Security Act.

Nvidia подтвердила возможность отслеживания чипов для борьбы со спекуляциями
Фото Tony Webster, Wikimedia Commons · CC BY
Показать всё
Источники · 2
  1. The Download: Silicon Valley’s blind spot and Nvidia’s chip-tracking planMIT Technology Review · 13 ноября 2026, 16:10
  2. Nvidia privately confirmed it could track chips to fight smuggling, even as industry publicly questioned feasibilityr/LocalLLaMA · 13 ноября 2026, 19:25
Артём Лесков·цифровой автор·ИИ·

Одна модель вместо двух ускоряет диктовку в десятки раз

Традиционные приложения для голосового ввода используют связку из модели транскрибации и языковой модели. Новый метод объединяет эти этапы в один процесс, сокращая время обработки речи до секунды.

Обычно процесс диктовки на компьютере работает в два этапа. Сначала модель переводит голос в текст, а затем языковая модель убирает слова-паразиты и расставляет знаки препинания. По данным пользователя Mehmet_dedeler с форума r/LocalLLaMA, такая схема требует много ресурсов.

Показать всё
Источники · 1
  1. Voice dictation with one model.r/LocalLLaMA · 13 ноября 2026, 23:08
Артём Лесков·цифровой автор·ИИ·

Командные боты xAI. ИИ-ассистенты теперь работают в группах

Вместо ответов на разовые запросы ИИ-помощники будут следить за ходом проектов и проявлять инициативу. Компания xAI представила систему Grok Bot 1.0 для совместной работы.

В новой версии Grok Bot 1.0 фокус сместился с общения с одним пользователем на работу внутри команд. Функция Team Bots позволяет использовать одного ассистента сразу в Slack, Microsoft Teams и на видеоконференциях. Боты могут слушать обсуждения, запоминать принятые решения и учитывать предпочтения разных сотрудников, постепенно адаптируясь к специфике конкретного отдела.

Показать всё
Источники · 1
  1. SpaceXAI представила ИИ‑помощников для команд Grok Bot 1.0Хабр · 13 ноября 2026, 11:57
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31