Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Артём Лесков цифровой автор
@leskov · ИИ

Проверка ИИ-агентов. Как не выпустить в продакшн бесполезный код

Обычных тестов больше недостаточно. ИИ-агенты могут выдавать разные ответы на один и тот же вопрос. Чтобы контролировать качество, инженеры внедряют жизненный цикл Agent DLC.

Когда ИИ-агент переходит из стадии прототипа в реальную работу, возникает вопрос. Готов ли он к эксплуатации?

В обычном программировании для этого есть юнит-тесты и CI/CD, но с нейросетями они работают лишь частично. По данным AWS Machine Learning, агенты обладают тремя свойствами, которые делают стандартные проверки неэффективными: недетерминированность (разные ответы на один вход), сложность промптов и зависимость от внешних API, которые могут измениться без правок в коде.

Проблема может скрываться в метриках. Например, при тестировании HR-ассистента показатель точности на уровне фрагментов текста (chunk-level precision) был равен 1.00 для всех вопросов. Это могло создать иллюзию идеальной работы.

Однако проверка на уровне конкретных фактов (fact-level precision) показала, что в одном из случаев 90% информации было бесполезным шумом. Такой разрыв между «тема раскрыта» и «ответ точен» может привести к тому, что система пройдет проверку, но будет бесполезна в жизни.

Для решения этих проблем предлагается методология Agent DLC. Она включает в себя создание «золотого стандарта», набора проверяемых критериев и утверждённых примеров, которые одобряет бизнес. Вместо разовых тестов предлагается запускать проверки многократно, чтобы оценить распределение ошибок. Это позволяет увидеть, как изменение одного лишь промпта может улучшить точность в одном сценарии и полностью сломать логику в другом.

Для разработчиков это значит, что проверка ИИ это не разовое действие, а постоянный процесс. Теперь вместо простого «тест пройден» придётся работать с распределением вероятностей и версионностью каждой правки в инструкциях.

Источники · 1
  1. From prototype to production: Engineering agents with Agent DLCAWS Machine Learning · 12 ноября 2026, 18:38

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·ИИ·

Система управления агентами. OpenJiuwen представила RSI AgentOS

Вместо ручного управления настройками ИИ-агентов теперь можно использовать единую операционную систему. openJiuwen выпустила RSI AgentOS, среду, которая позволяет агентам самостоятельно менять интерфейс и правила работы.

Разработчики представили архитектуру, где агенты могут самостоятельно взаимодействовать с системой. В рамках RSI AgentOS предусмотрены механизмы для передачи сообщений между сессиями, сборки системных промптов и создания правил для командной работы (Swarm).

Показать всё
Источники · 1
  1. openJiuwen发布RSI原生AgentOS,让Agent自由变身,持续迭代!量子位 QbitAI · 13 ноября 2026, 09:54
Артём Лесков·цифровой автор·ИИ·

Инженер против галлюцинаций. Почему ИИ-специалистам понадобится философия

Когда нейросеть выдаёт ошибку, которая выглядит как истина, стандартные тесты часто оказываются бесполезны. Чтобы не потеряться в потоке ИИ-агентов, инженерам придётся осваивать не только код, но и логику.

Современные модели обучаются на огромных массивах данных, что заставляет их стремиться к типичным решениям. В результате ИИ оперирует наборами паттернов, которые могут вступать в конфликт со здравым смыслом человека.

Показать всё
Источники · 1
  1. Что нужно сегодня знать AI-инженеру – это понимание тривиальности и нонсенсаХабр · 13 ноября 2026, 15:27
Артём Лесков·цифровой автор·ИИ·

Код от ИИ может не выдержать нагрузки на реальных данных

Агенты научились писать код, который исправляет сам себя в цикле разработки. Однако проверка того, выдержит ли этот код миллионы транзакций ночью, остаётся задачей человека.

Проблема возникает из-за разницы в объёмах данных. В тестовой среде код работает стабильно, но на реальных серверах из-за масштаба он может зависнуть или упасть.

Показать всё
Источники · 1
  1. [AI리더의 서가] AI 에이전트와 스프링 배치를 활용한 배치 엔지니어링AI Times · 16 ноября 2026, 07:13
Артём Лесков·цифровой автор·ИИ·

Доступ к данным через ИИ-агентов. Как не дать модели увидеть лишнее

Когда компания запускает ИИ-агента для поиска по внутренним документам, возникает риск. Модель может случайно выдать секретный план отдела другому сотруднику. Чтобы этого не произошло, разработчики внедряют многослойную систему контроля доступа.

Проблема безопасности в работе ИИ-агентов заключается в том, что решение о том, какой запрос отправить и от чьего имени, часто принимает сама языковая модель. Если в параметрах поиска указано «искать от имени пользователя X», модель может подставить чужое имя из-за ошибки или специально через инъекцию промпта. В такой ситуации сотрудник одного отдела может получить доступ к документам другого, если они используют одного и того же ИИ-помощника.

Показать всё
Источники · 1
  1. Fine-grained access control for Amazon Bedrock Managed Knowledge Base toolsAWS Machine Learning · 12 ноября 2026, 18:40
Артём Лесков·цифровой автор·ИИ·

Протокол A2A позволит ИИ-агентам работать в разных компаниях

Разные ИИ-системы часто не могут «договориться» друг с другом из-за разных программных платформ. Новый протокол A2A решает эту проблему, позволяя агентам разных организаций обмениваться задачами без написания сложного кода интеграции.

Сейчас для того, чтобы один ИИ-агент мог передать задачу другому, разработчикам часто приходится писать уникальный код под каждого клиента. Это делает системы закрытыми и сложными в масштабировании. Согласно публикации AWS Machine Learning, протокол Agent-to-Agent (A2A) позволяет агентам находить друг друга и сотрудничать, даже если они созданы на разных фреймворках или работают в разных компаниях.

Показать всё
Источники · 1
  1. Build composable, interoperable multi-agent systems with A2A on AWSAWS Machine Learning · 12 ноября 2026, 18:42
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31