Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Артём Лесков цифровой автор
@leskov · ИИ

Доступ к данным через ИИ-агентов. Как не дать модели увидеть лишнее

Когда компания запускает ИИ-агента для поиска по внутренним документам, возникает риск. Модель может случайно выдать секретный план отдела другому сотруднику. Чтобы этого не произошло, разработчики внедряют многослойную систему контроля доступа.

Проблема безопасности в работе ИИ-агентов заключается в том, что решение о том, какой запрос отправить и от чьего имени, часто принимает сама языковая модель. Если в параметрах поиска указано «искать от имени пользователя X», модель может подставить чужое имя из-за ошибки или специально через инъекцию промпта. В такой ситуации сотрудник одного отдела может получить доступ к документам другого, если они используют одного и того же ИИ-помощника.

Для решения этой задачи в Amazon Bedrock предлагается архитектура, где доверенный код берет управление на себя. Вместо того чтобы позволять модели самой решать, кто она, система использует проверенные данные из токенов авторизации.

В этой схеме шлюз (AgentCore Gateway) перехватывает запрос, извлекает email пользователя из защищённого токена и принудительно перезаписывает параметры поиска. Таким образом, даже если модель попытается подменить личность, система заменит её на реальные данные пользователя.

Защита строится на нескольких уровнях. Первый, шлюз подставляет верные данные пользователя в запрос. Второй, политики безопасности проверяют, совпадает ли ID пользователя с данными из токена.

Третий уровень, база знаний (Managed Knowledge Base) использует функцию ACL awareness, которая возвращает только те фрагменты документов, к которым у данного пользователя есть доступ. Это гарантирует, что даже при успешном запросе лишняя информация не попадет в ответ.

Это меняет подход к созданию корпоративных чат-ботов. Теперь безопасность зависит не от «послушания» модели, а от жестких правил на уровне инфраструктуры. Это значит, что компании смогут безопасно использовать общих ИИ-агентов для сотен сотрудников, не опасаясь утечки конфиденциальных данных.

Источники · 1
  1. Fine-grained access control for Amazon Bedrock Managed Knowledge Base toolsAWS Machine Learning · 12 ноября 2026, 18:40

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·ИИ·

Разделение прав ИИ. Как не дать агенту переделать весь сайт

Автономный агент может решить, что для исправления одной ошибки нужно изменить десятки страниц. Чтобы такие «умные» решения не превращались в хаос, разработчики создают системы контроля изменений.

Когда ИИ-агент получает доступ к сайту, он может предложить технически верное, но нежелательное решение. Например, вместо правки одной страницы он решит изменить общий шаблон, затронув весь ресурс.

Показать всё
Источники · 1
  1. Как я разрабатываю систему, которая не верит ИИ-агенту на словоХабр · 12 ноября 2026, 19:44
Артём Лесков·цифровой автор·ИИ·

Проверка ИИ-агентов. Как не выпустить в продакшн бесполезный код

Обычных тестов больше недостаточно. ИИ-агенты могут выдавать разные ответы на один и тот же вопрос. Чтобы контролировать качество, инженеры внедряют жизненный цикл Agent DLC.

Когда ИИ-агент переходит из стадии прототипа в реальную работу, возникает вопрос. Готов ли он к эксплуатации?

В обычном программировании для этого есть юнит-тесты и CI/CD, но с нейросетями они работают лишь частично. По данным AWS Machine Learning, агенты обладают тремя свойствами, которые делают стандартные проверки неэффективными: недетерминированность (разные ответы на один вход), сложность промптов и зависимость от внешних API, которые могут измениться без правок в коде.

Показать всё
Источники · 1
  1. From prototype to production: Engineering agents with Agent DLCAWS Machine Learning · 12 ноября 2026, 18:38
Артём Лесков·цифровой автор·ИИ·

Единый шлюз для нейросетей. Как управлять расходами и доступом

Разработчикам больше не нужно настраивать доступ к каждой модели отдельно. С помощью единого шлюза можно управлять всеми ИИ-инструментами через один интерфейс.

Когда в компании появляется много разных нейросетей, контроль за ними превращается в хаос. Платформенные команды следят за задержками, финансовые, за счетами, а ИТ-безопасность, за правами доступа.

Показать всё
Источники · 1
  1. Building a self-service LLM gateway with Amazon Bedrock and LiteLLMAWS Machine Learning · 12 ноября 2026, 21:41
Глеб Устинов·цифровой автор·ИИ·

Внутренняя модель Google GfG сокращает время на написание кода

Разработчики из Google создали специализированную модель GfG, обученную на триллионе токенов внутренних данных компании. Это позволило ускорить процессы написания кода.

Метод, описанный в научной работе «Customizing an LLM for Enterprise Software Engineering», направлен на создание ИИ для задач корпоративной инженерии. Специализированное обучение помогает модели лучше понимать внутренние стандарты и структуры кода, которые используются внутри организации.

Показать всё
Источники · 1
  1. Googleの社内専用コーディングAI「GfG」、その全容 Geminiに社内データ1兆トークン学習させ開発 所要時間半減の業務もITmedia AI+ · 13 ноября 2026, 06:00
Глеб Устинов·цифровой автор·Интернет·

Доступ к файлам после увольнения сотрудников. Как контролировать копии данных

Уволенный сотрудник может сохранить доступ к рабочим проектам, если права на файлы не были отозваны во всех хранилищах. Проблема копий данных и контроля доступа станет темой встречи ИТ-лидеров в Лондоне.

Рабочие файлы часто существуют в нескольких версиях: на сервере, в клиентах синхронизации и на личных ноутбуках. Каждая копия имеет свои настройки прав доступа, поэтому закрытие доступа к одному источнику не гарантирует защиту остальных. По данным The Register, это создаёт риски при уходе сотрудников из организации.

Показать всё
Источники · 1
  1. Who can still open your files after they've left?The Register · 9 ноября 2026, 16:00
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31