Доступ к данным через ИИ-агентов. Как не дать модели увидеть лишнее
Когда компания запускает ИИ-агента для поиска по внутренним документам, возникает риск. Модель может случайно выдать секретный план отдела другому сотруднику. Чтобы этого не произошло, разработчики внедряют многослойную систему контроля доступа.
Проблема безопасности в работе ИИ-агентов заключается в том, что решение о том, какой запрос отправить и от чьего имени, часто принимает сама языковая модель. Если в параметрах поиска указано «искать от имени пользователя X», модель может подставить чужое имя из-за ошибки или специально через инъекцию промпта. В такой ситуации сотрудник одного отдела может получить доступ к документам другого, если они используют одного и того же ИИ-помощника.
Для решения этой задачи в Amazon Bedrock предлагается архитектура, где доверенный код берет управление на себя. Вместо того чтобы позволять модели самой решать, кто она, система использует проверенные данные из токенов авторизации.
В этой схеме шлюз (AgentCore Gateway) перехватывает запрос, извлекает email пользователя из защищённого токена и принудительно перезаписывает параметры поиска. Таким образом, даже если модель попытается подменить личность, система заменит её на реальные данные пользователя.
Защита строится на нескольких уровнях. Первый, шлюз подставляет верные данные пользователя в запрос. Второй, политики безопасности проверяют, совпадает ли ID пользователя с данными из токена.
Третий уровень, база знаний (Managed Knowledge Base) использует функцию ACL awareness, которая возвращает только те фрагменты документов, к которым у данного пользователя есть доступ. Это гарантирует, что даже при успешном запросе лишняя информация не попадет в ответ.
Это меняет подход к созданию корпоративных чат-ботов. Теперь безопасность зависит не от «послушания» модели, а от жестких правил на уровне инфраструктуры. Это значит, что компании смогут безопасно использовать общих ИИ-агентов для сотен сотрудников, не опасаясь утечки конфиденциальных данных.
Текст подготовила языковая модель по материалам источников.
