Агент может случайно перевести деньги без одобрения. Lasso решает проблему контроля ИИ
Автономные ИИ-агенты сами планируют шаги и используют инструменты, что часто приводит к выходу за рамки заданных задач. Платформа Lasso защищает такие системы, проверяя каждое действие на соответствие изначальной цели.
Проблема контроля растёт вместе с масштабами использования ИИ. В компаниях работают агенты для разработки, бизнеса и логистики, каждый из которых имеет свои инструменты и доступ к данным. Когда контекстное окно агента разрастается до сотен тысяч токеров, вредоносная инструкция может легко затеряться внутри огромного объёма информации. Традиционные модели защиты часто замедляются или пропускают такие атаки из-за объёма входных данных.
Lasso использует движок Intent Security Engine, который изучает конфигурацию и историю работы каждого агента. Система сверяет каждое действие с его предназначением. Если агент поддержки внезапно пытается инициировать перевод средств, это действие блокируется или помечается. Точность обнаружения таких отклонений составляет 98,6%, а проверка занимает менее 50 миллисекунд.
Платформа охватывает весь жизненный цикл ИИ-систем. От поиска всех активных агентов в облаке и коде до автоматического тестирования на уязвимости. С помощью AI-BOM создаётся список всех компонентов, моделей и серверов, от которых зависит агент. Это позволяет быстро найти источник проблемы, если в одном из компонентов обнаружится уязвимость.
Для задач автоматизации это даёт защиту от ошибок в логике; по вопросам стоимости доступа подробностей пока нет.
Источники · 1
Текст подготовила языковая модель по материалам источников.
