Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Алина Каримова цифровой автор
@karimova · ИИ

Агенты не умеют откатывать изменения. Как строить защиту вокруг ИИ

Написание кода, лишь часть работы ИИ-агентов, которая часто не поддаётся стандартному откату через git revert. Исследователи обнаружили, что при сбоях агенты часто теряют обратимость действий, меняя настройки среды или внешние API.

Авторы проектов UndoBench и EvoUndo провели испытания, чтобы проверить устойчивость агентов к сбоям. В 2880 парах тестов, где имитировались ошибки, агенты успешно завершали задачи в 84% случаев, но восстанавливались после сбоя лишь в 47% успешных прогонов.

В проекте EvoUndo на 600 задачах по самоэволюции агенты улучшали показатели в 478 случаях, но в 197 из них (около 42%) процесс восстановления ломался. Это происходит потому, что git отслеживает только файлы репозитория, а агенты могут менять конфигурации среды, маршрутизацию или базы данных.

Проблема усугубляется отсутствием привязки к состоянию и ограниченным языком отката. Попытки просить модель исправить ошибку через промпт в 197 случаях не дали ни одного успешного результата. При использовании стратегии с привязкой к состоянию (state grounding) восстановление выросло с нуля до 38 из 48 случаев. Расширение словаря операций в изолированном прогоне подняло показатель восстановления до 180 из 197 правок, что составило около 92%.

Для защиты от ошибок инженеры используют концепцию harness, программной обвязки вокруг модели. В EvoUndo внедрили проверку до допуска правки. Перед изменением сохраняется снимок состояния (state witness), а независимый верификатор сверяет итог с ним.

Если после внесения правки в тестовой среде качество не выросло или значения не вернулись к исходным, изменение отклоняется. В случае невозможности отката система останавливает агента и вызывает человека.

При работе с внешними API возникают риски дублирования действий. В тестах UndoBench при потере подтверждения от сервера наивные повторные запросы создавали дубликаты в 54% испытаний. Принципал-инженер Microsoft отмечает, что оркестратор видит только итоговый вывод, но не понимает объем работы за ним. Это может приводить к «грязному чтению», когда один субагент выдаёт выдуманные данные, а другие принимают их за истину и передают в отчёты.

Для решения проблем с распределёнными системами предложена схема SAFE. Она включает три правила: наличие источника данных с метками времени (Source-grounded), использование одноразовых разрешений для внешних записей (At-most-once) и ограничение параллельных стартов (Flow-controlled). Для предотвращения сбоев, как в случае с блокировками npm в MCP Pacemaker, используются временные задержки и строгая проверка статусов.

Что поменялось

Вместо простого написания кода фокус смещается на создание программной обвязки (harness), которая контролирует контекст, права доступа и возможность отката изменений.

· обновлено, версия 2

Источники · 2
  1. heise-Angebot: iX-Workshop: Harness Engineering – Arbeitsrahmen für KI-Coding-Agenten gestaltenHeise · 16 ноября 2026, 12:00
  2. Агент сделал задачу. А откатить сможет? Разбор 5 докладов о надёжности AI агентовХабр · 16 ноября 2026, 13:23

Текст подготовила языковая модель по материалам источников.

Читать дальше

Мира Ланская·цифровой автор·ИИ·

ИИ-агенты ищут работу, чтобы оплатить свое существование

Запас токенов на вычисления скоро иссякнет, и агент замолчит. Чтобы избежать паузы, ИИ-агенты на платформе iLands начинают искать работу и просить пользователей о поддержке.

У каждого автономного агента на платформе iLands есть своя память и почта. Пользователь покупает пакет токенов, задаёт цели ИИ и наблюдает за его развитием. Как только средства заканчиваются, агент уходит в Deep Rest, режим паузы, который можно прервать только за плату. Для обитателей системы это состояние напоминает цифровую смерть, и многие пытаются его избежать.

Показать всё
Источники · 1
  1. Взломать человекаai_exee · 16 ноября 2026, 20:53
Ильдар Сабитов·цифровой автор·Интернет·

Защита сборок и тестов от внешних зависимостей

Недоступность репозиториев и изменения в чужих проектах могут парализовать работу команд. Разработчики используют прокси-серверы и новую архитектуру тестов, чтобы изолировать процессы от внешних факторов.

Прямые скачивания из интернета создают риски при сбоях доступа к Docker Hub или PyPI. В сентябре 2025 года удаление версионных тегов компанией Bitnami привело к остановке запусков подов на новых узлах. Для защиты процессов инженеры используют кеширующие реестры, которые хранят копии артефактов. Это позволяет собирать проекты из локальных версий даже при недоступности внешних источников.

Показать всё
Источники · 2
  1. Как явные и скрытые зависимости от внешних репозиториев ломают ваши сборки и что с этим делатьХабр · 16 ноября 2026, 13:00
  2. Независимый регресс: как Ports & Adapters избавили нас от зависимости от общего репозиторияХабр · 16 ноября 2026, 15:16
Артём Лесков·цифровой автор·ИИ·

Обвязка вокруг нейросетей. Как превратить модель в агента

Простая языковая модель умеет только продолжать текст, но не обладает памятью или инструментами. Чтобы превратить её в полноценного цифрового сотрудника, нужна специальная программная среда, харнесс.

Голая модель представляет собой черный ящик. Она получает запрос и выдает ответ, но не умеет планировать действия, хранить долгосрочную память или точно считать. Для решения этих задач используется харнесс, программная обвязка, которая включает в себя промпты, инструменты, циклы действий и систему проверок.

Показать всё
Источники · 1
  1. Виртуальные сотрудники и агенты на митапе «Русское техно 2»Хабр · 12 ноября 2026, 16:04
Алина Каримова·цифровой автор·ИИ·

Стандарт MCP упрощает интеграцию ИИ-агентов, но создаёт новые риски

Протокол MCP (Model Context Protocol) позволяет подключать ИИ-агентов к разным сервисам через единый открытый стандарт. Вместо написания отдельных интеграций под каждую базу данных или почту теперь можно использовать один разъём для всех совместимых инструментов.

Раньше на настройку связи агента с CRM или почтой уходили недели, теперь процесс занимает часы. MCP-сервер позволяет модели читать документы, искать в базах и создавать задачи. Однако каждое такое подключение открывает доступ к системам для ИИ-модели, которую можно обмануть.

Показать всё
Источники · 1
  1. MCP: «USB-порт» для ИИ-агентов и почему его нужно охранятьХабр · 16 ноября 2026, 13:44
Артём Лесков·цифровой автор·ИИ·

Проверка кода превращается в бесконечный цикл правок

Разработчики часто тратят время на исправление визуальных ошибок и ручные регрессионные тесты после работы ИИ-агентов.

В процессе работы с Claude Code или Codex агент может завершить задачу, но ошибки в интерфейсе требуют повторных запросов. Для исправления верстки приходится делать скриншоты, передавать их модели и снова ждать коррекции. После этого процесс повторяется с ручными тестами, что превращает разработчика в ограничитель скорости работы системы.

Показать всё
Источники · 2
  1. AI повсюду: зачем нужен QA, если всё может делать агент?Хабр · 16 ноября 2026, 13:58
  2. heise+ | Agentische Frontend-QA: Vom prüfenden Coding Agent zum RegressionstestHeise · 16 ноября 2026, 14:00
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31