Маленькая модель X3Guard-150M защищает от вредных запросов на смартфонах
Новая модель X3Guard-150M способна определять вредоносные или провокационные запросы прямо в браузере. Она работает на устройствах с ограниченными ресурсами, сохраняя высокую скорость реакции.
Разработчики из Axiomic Labs создали инструмент на базе своей базовой модели GPT-X3. X3Guard-150M одновременно классифицирует входящий текст как вредоносный или состязательный. При этом модель с 150 миллионами параметров превосходит по эффективности гораздо более крупные аналоги.
Благодаря компактности она может работать полностью на edge-устройствах, например, в браузере смартфона. На iPhone время отклика составляет десятки миллисекунд.
Для использования модели не требуются мощные серверы. Весь процесс обработки происходит локально на конечном устройстве пользователя. Это позволяет защищать сессии без передачи данных в облако. Перед приёмкой ответа на устройстве проверьте скорость работы, так как она напрямую зависит от мощности железа.
Что поменялось
Модель позволяет проводить проверку запросов локально на мобильных устройствах с минимальной задержкой.
Источники · 1
Текст подготовила языковая модель по материалам источников.

