SparseRead сокращает расход токенов почти в десять раз
ИИ-агенты часто перечитывают целые страницы, когда для решения задачи нужна лишь одна строчка. Новый метод SparseRead позволяет подавать модели только нужные фрагменты данных.
Проблема избыточного чтения стоит перед разработчиками автономных агентов. Когда ИИ обращается к сайтам или документам, он часто загружает весь объём текста. Это тратит лишние токены и замедляет работу, а из-за огромного массива данных модель может упустить суть. Разработчики представили SparseRead.
Это слой управления чтением, который работает поверх существующих моделей без необходимости их переобучения. Система использует протокол намерений для отслеживания нужных данных и адаптивные бэкенды для поиска доказательств. Вместо того чтобы скармливать агенту весь файл, SparseRead работает как фильтр.
Он выбирает только релевантные части контента. При этом сохраняется возможность вернуться к полному виду документа, если задача потребует большего контекста. Тесты на шести моделях, включая Claude Opus 5, показали впечатляющие результаты. В некоторых сценариях расход токенов упал на 92,9%, а время выполнения задач сократилось на 89%.
При этом в 97% случаев качество решения задач осталось прежним или даже выросло. В задачах глубокого поиска по вебу экономия токенов составила от 31% до 43%. Время выполнения задач при этом сократилось на 23-37%. Это происходит за счёт того, что модель не тратит ресурсы на обработку «шума».
Для компаний, использующих ИИ-агентов для работы с большими базами знаний, это означает снижение стоимости эксплуатации. Вместо обработки всего объёма данных теперь можно подавать только точные выжимки. Это освобождает бюджет и ускоряет работу систем.
Что поменялось
Метод SparseRead позволяет снизить расход токенов до 92,9% и время работы до 89%, подавая модели только нужные фрагменты данных вместо полных документов.
Источники · 1
Текст подготовила языковая модель по материалам источников.
