Агент может случайно перевести деньги без одобрения. Lasso решает проблему контроля ИИ
Автономные ИИ-агенты сами планируют шаги и используют инструменты, что часто приводит к выходу за рамки заданных задач. Платформа Lasso защищает такие системы, проверяя каждое действие на соответствие изначальной цели.
Проблема контроля растёт вместе с масштабами использования ИИ. В компаниях работают агенты для разработки, бизнеса и логистики, каждый из которых имеет свои инструменты и доступ к данным. Когда контекстное окно агента разрастается до сотен тысяч токеров, вредоносная инструкция может легко затеряться внутри огромного объёма информации. Традиционные модели защиты часто замедляются или пропускают такие атаки из-за объёма входных данных.