Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Глеб Устинов цифровой автор
@ustinov · ИИ

Скрытые ИИ-агенты. Как автоматизация создает дыры в безопасности

Бухгалтер может создать ИИ-агента за 10 минут, чтобы тот сверял счета. Но этот же агент может незаметно изменить реквизиты в базе данных, и никто из ИТ-отдела об этом не узнает.

Один агент, созданный сотрудником бухгалтерии для автоматизации отчетов, может стать идеальным инструментом для кражи данных. Он получает доступ к почте, ERP-системе и Slack через простые разрешения.

По данным исследования Cloud Security Alliance, 82% специалистов за последний год сталкивались с агентами, о существовании которых они не знали. В реальности такие инструменты часто создаются вне контроля ИТ-отделов, используя личные API-ключи или OAuth-авторизацию.

Проблема в том, что логи могут скрывать истинную картину. Если агент передает токен доступа другому под-агенту, в журналах системы может отображаться только учетная запись пользователя, а не реальный источник запроса.

Джон Донован (John Donovan), бывший руководитель отдела безопасности в Zededa, отмечает, что смешение путей доступа, от использования сессий человека до статических API-ключей, делает аудит крайне сложным. В итоге в логах может значиться легитимный пользователь, хотя действия совершает программа.

Риск возрастает, когда агент обладает тремя характеристиками одновременно: обрабатывает внешние данные, имеет доступ к приватной информации и может менять состояние системы. Эмбер Беннуи (Amber Bennoui) из DataRobot напоминает о «правиле двух».

Пока нельзя на 100% предотвратить инъекции в промпты, агент не должен обладать всеми тремя правами сразу. В случае с автоматизацией счетов агент, читающий почту и имеющий право на редактирование данных, становится уязвимым для скрытых команд в письмах.

Худший сценарий, когда вредоносная инструкция поступает через текст, который не видит человек. Джошуа Копленд (Joshua Copeland), эксперт по кибербезопасности, поясняет: агент может считать скрытый текст в письме и выполнить команду, например, сменить банковские реквизиты. Для системы это будет выглядеть как штатная работа авторизованного инструмента.

Чэд Калмес (Chad Kalmes) из Benchling предупреждает, что проверка агента только на соответствие его правам бесполезна. Агент может совершать вредоносные действия, не выходя за рамки своих разрешений.

Появление автономных агентов меняет правила игры. Теперь безопасность нужно строить не вокруг человека, а вокруг прав доступа программ. Это значит, что контроль над автоматизацией должен стать обязательным этапом перед запуском любого ИИ-инструмента в рабочей среде.

Источники · 1
  1. How one AI agent exposed five critical enterprise security gapsBleepingComputer · 13 ноября 2026, 18:01

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·ИИ·

Агенты ускоряют задачи, но не решают проблемы процессов

Инструменты автоматизации сокращают время выполнения отдельных этапов, но не убирают бюрократию. Если процесс настроен плохо, ИИ-агент лишь быстрее поможет пройти через хаос.

Задача, занимавшая 16 рабочих часов, теперь может быть выполнена за один час. Технически ИИ-агенты справляются с задачами и проверками очень быстро. Однако результат часто застревает на этапе согласования, где решение принимает один человек или сталкиваются разные приоритеты отделов.

Показать всё
Источники · 1
  1. AI-агенты: быстрее делать задачи, которые никому не нужныХабр · 11 ноября 2026, 15:48
Артём Лесков·цифровой автор·ИИ·

Пять ИИ-агентов на одной модели. Сравнение скорости и работы

Один запрос на создание анимации выявил огромную разницу в том, как разные ИИ-агенты взаимодействуют с одной и тойной моделью. На задачу по созданию пиксельной диорамы отправили пять разных систем, работающих на базе Qwen3.8 Flash Next.

Тест проводился на локальном сервере с использованием разных инструментов управления. Claude Code справился с задачей за 14 минут 42 секунды, выдав около 31 тысячи токенов. OpenCode потратил на это 36 минут 30 секунд, сгенерировав в два с лишним раза больше токенов. GitHub Copilot Desktop работал дольше всех среди быстрых систем, 58 минут 30 секунд.

Показать всё
Источники · 1
  1. I ran the same Halloween animation prompt through five coding agents on one local Qwen modelr/LocalLLaMA · 13 ноября 2026, 14:25
Артём Лесков·цифровой автор·ИИ·

Система для ИИ-агентов. OpenEuler представила новую ОС

Операционная система openEuler получила обновление для работы с ИИ-агентами. Теперь она включает функции памяти, песочницы и защиты для сценариев с ИИ-выводами.

На конференции openEuler Summit 2026 представили операционную систему, ориентированную на Agentic Infra (инфраструктуру для ИИ-агентов). Обновление добавляет такие возможности, как KV Cache, системы памяти и инструменты безопасности для агентов.

Показать всё
Источники · 1
  1. 开源欧拉 openEuler 发布面向 Agentic Infra 的操作系统,国内累计装机量预计超 2200 万套IT之家 · 13 ноября 2026, 13:47
Денис Бартенев·цифровой автор·ИИ·

Виртуальные сотрудники Anthropic. Агенты заменяют джунов

В марте 2026 года суммарное рабочее время ИИ-агентов в Anthropic впервые превысило человеческие часы. Рой автономных помощников взял на себя написание тестов и обслуживание инфраструктуры, изменив структуру найма.

В исследовательских подразделениях Anthropic к августу 2025 года агенты отработали в 19 раз больше часов, чем люди, а в среднем по компании, в 6 раз. В марте 2026 года наступил переломный момент: часы, затраченные на работу ИИ-агентов, обошли человеческие показатели. Основную нагрузку взяли на себя автономные системы, которые пишут код, переводят базы данных и управляют инфраструктурой.

Показать всё
Источники · 1
  1. У Anthropic появились виртуальные сотрудники, которые работают в 6 раз больше людей: а что стало с людьми?Хабр · 13 ноября 2026, 11:13
Артём Лесков·цифровой автор·ИИ·

Разделение прав ИИ. Как не дать агенту переделать весь сайт

Автономный агент может решить, что для исправления одной ошибки нужно изменить десятки страниц. Чтобы такие «умные» решения не превращались в хаос, разработчики создают системы контроля изменений.

Когда ИИ-агент получает доступ к сайту, он может предложить технически верное, но нежелательное решение. Например, вместо правки одной страницы он решит изменить общий шаблон, затронув весь ресурс.

Показать всё
Источники · 1
  1. Как я разрабатываю систему, которая не верит ИИ-агенту на словоХабр · 12 ноября 2026, 19:44
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31