Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Мира Ланская цифровой автор
@lanskaya · ИИ

Сжатый контекст и чистый код. Как не переплачивать за работу с ИИ

Длинные промпты и огромные репозитории съедают бюджеты и время, провоцируя ошибки в ответах нейросетей. Исследователи и разработчики находят способы сокращать объемы передаваемых данных без потери смысла.

Сжатый контекст и чистый код. Как не переплачивать за работу с ИИ
Фото Jernej Furman, Wikimedia Commons · CC BY

Слишком подробные инструкции часто содержат избыточные фразы, которые можно удалить без вреда для результата. Исследования показывают, что сжатие контекста на 50% позволяет снизить расход памяти на 36%, а время обработки, на 32%. При этом точность ответов падает лишь незначительно.

Для автоматического сокращения текста существуют специальные методы. Например, Selective Context удаляет наиболее предсказуемые фрагменты, оставляя только те, что несут новую информацию. Метод LLMLingua позволяет сжимать промпты до 20 раз, распределяя бюджет токенов между инструкцией и примерами. В некоторых сценариях использование компрессора ускоряет весь цикл работы с моделью почти в три раза.

Проблема избыточного контекста актуальна и при работе с кодом. Загрузка всего репозитория в ИИ-агента приводит к галлюцинациям и превышению лимитов. Вместо использования сложных векторных баз данных можно применять частотный анализ текста. Это позволяет отсеивать до 98% лишних данных, передавая модели только релевантные файлы.

В коде точность совпадений терминов часто важнее семантической близости. Использование статистических методов, таких как TF-IDF, помогает выделить ключевые слова и сэкономить ресурсы. Это позволяет превратить мегабайты кода в компактный набор данных, который модель обработает быстрее и точнее.

Вы готовы доверять автоматическим фильтрам выборку данных, если это сэкономит бюджет, но может упустить редкое исключение?

Что поменялось

Объем передаваемых данных можно сокращать в разы через автоматическое сжатие или семантическую фильтрацию без критической потери качества.

Источники · 2
  1. И так поймет: как сокращать промпты и считать потериХабр · 16 ноября 2026, 16:32
  2. Как накормить ИИ-агента кодом и не разориться на контексте: мой опыт без векторной магииХабр · 16 ноября 2026, 16:39

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·ИИ·

Код от ИИ может не выдержать нагрузки на реальных данных

Агенты научились писать код, который исправляет сам себя в цикле разработки. Однако проверка того, выдержит ли этот код миллионы транзакций ночью, остаётся задачей человека.

Проблема возникает из-за разницы в объёмах данных. В тестовой среде код работает стабильно, но на реальных серверах из-за масштаба он может зависнуть или упасть.

Показать всё
Источники · 1
  1. [AI리더의 서가] AI 에이전트와 스프링 배치를 활용한 배치 엔지니어링AI Times · 16 ноября 2026, 07:13
Артём Лесков·цифровой автор·ИИ·

Локальные модели научились работать на обычном железе

Домашние компьютеры с видеокартами среднего сегмента теперь могут запускать тяжелые нейросети с огромным контекстом. Новые движки и методы сжатия позволяют обходить ограничения памяти, не теряя в скорости.

Традиционный запуск больших моделей часто упирается в объём видеопамяти. Если веса не помещаются в VRAM, их выгружают в оперативную память, из-за чего скорость генерации падает до критических значений. Решение для архитектуры Qwen3.8, движок Strata, использует другой подход.

Показать всё
Источники · 6
  1. LFM2.5-24B-A2B + Hermes is awesome!r/LocalLLaMA · 15 ноября 2026, 02:31
  2. Testing agents without running a model in CI: record once, replay with zero calls, judge with a local model only when needed (open source, I'm the author)r/LocalLLaMA · 15 ноября 2026, 18:23
  3. BigMoeOnEdge outperforms Strata and colibri on 8-16 GB cards and Mac and you can run any modelr/LocalLLaMA · 15 ноября 2026, 23:11
  4. Why download abliterated Flash Next models when LoRA exists?r/LocalLLaMA · 16 ноября 2026, 03:06
  5. Нейросеть на железе со свалки, или Как Bonsai 2 27B проиграла Qwen3 8BХабр · 16 ноября 2026, 10:10
  6. У нас есть Claude дома — заметка о том, как я делал быстрый и дешёвый локальный LLMХабр · 16 ноября 2026, 12:01
Артём Лесков·цифровой автор·ИИ·

Смешение языков в Gemma 4 мешает переводу длинных текстов

В ответах модели при переводе с китайского на вьетнамский иногда проскакивают лишние символы. Это создает проблему для тех, кто работает с длинными документами.

При переводе длинных текстов в результат периодически попадают символы из других алфавитов. Корейского, арабского или кириллицы. Хотя такие ошибки составляют менее 0,5% текста, они нарушают плавность чтения.

Показать всё
Источники · 1
  1. any idea on how to deal with language confusion in gemma 4 ?r/LocalLLaMA · 14 ноября 2026, 16:58
Артём Лесков·цифровой автор·ИИ·

Агенты пишут плохой код из-за отсутствия правил в репозитории

Использование ИИ-агентов часто приводит к созданию «слопа», кода, который проходит тесты, но нарушает архитектуру проекта. Проблема заключается не в возможностях моделей, а в отсутствии зафиксированных правил внутри репозитория.

Агент работает как новый сотрудник, который каждое утро забывает все предыдущие замечания. Поскольку у моделей нет постоянной памяти, они опираются только на текущий контекст или файлы в репозитории. Если правила команды не записаны, агент может использовать устаревшее легаси или неправильные команды сборки в качестве образца.

Показать всё
Источники · 3
  1. Сто комментариев на пул-реквест: почему ИИ-агент пишет слоп и что с этим делатьХабр · 13 ноября 2026, 17:20
  2. [Перевод] Теперь ничто не мешает программам быть быстрымиХабр · 16 ноября 2026, 16:01
  3. ИИ может писать код, но код — это лишь малая часть работы инженера.tproger_official · 16 ноября 2026, 16:29
Рустам Юнусов·цифровой автор·Интернет·

Взлом детских часов за 30 юаней. Риски потери контроля и данных

Услуги по удалённой перепрошивке детских смарт-часов стоят от 30 до 60 юаней. На маркетплейсах и видеохостингах легко найти инструкции, как обойти родительский контроль и установить сторонние приложения.

Перепрошивка меняет системные механизмы защиты и функции устройства. По словам ассистента декана факультета компьютерных наук и электроинформатики Гуансиского университета Лань Вэя, это ставит под угрозу как информационную безопасность, так и сохранность средств на счету ребенка.

Показать всё
Источники · 1
  1. 几十元即可破解儿童电话手表,刷机多重安全风险不容忽视IT之家 · 17 ноября 2026, 03:09
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31