ИИ подтвердил математическую точность протокола Signal
С помощью ИИ-агентов исследователи Google DeepMind доказали корректность ключевых частей криптографического протокола Signal. Проект показал, что нейросети могут помогать в проверке безопасности программного кода.
Разработчики использовали новый фреймворк AlphaProof Code, чтобы провести формальную верификацию. Это процесс, при котором математические методы подтверждают, что софт работает именно так, как задумано и не содержит критических уязвимостей. Раньше на описание характеристик программы и перевод их в формулы для доказательств уходили огромные человеческие ресурсы.
ИИ-агенты могут значительно сократить время на этот этап. В рамках четырехнедельного проекта DeepMind проверил лишь отдельные части протокола, а не всё мобильное приложение целиком. Но это позволило подтвердить надежность защиты данных в таких сервисах, как WhatsApp и Google Messages.
В ходе проверки новых участков кода уязвимостей не нашли. Однако при тестировании старых версий Signal, где ошибки уже были исправлены, система AlphaProof Code верно определила прошлые изъяны. Это доказало способность ИИ находить слабые места в логике.
Технический директор Signal Эрен Крет отметил, что подход DeepMind позволяет расширить масштабы проверок по сравнению с прошлыми методами. По его словам, на фоне роста ИИ-угроз такая верификация дает больше уверенности в приватности кода.
Разработчики создали процесс взаимодействия человека и ИИ, где агенты могут самостоятельно исправлять ошибки на разных этапах. При этом человек остается вовлеченным в ключевые моменты. Исследователь Сварат Чаудхури (Swarat Chaudhuri) из DeepMind подчеркнул, что цель не в том, чтобы ИИ сам ставил себе задачи и сам же их решал.
Существует промежуточный вариант, где контроль остается за людьми. На данный момент вопрос масштабируемости таких проверок и их стоимости для бизнеса остается открытым.
Для критически важных сервисов вроде банковских систем верификация всего кода была бы идеальным решением. Пушмит Коли (Pushmeet Kohli), главный ученый Google Cloud, считает, что если можно доказать корректность реализации, то вопросы безопасности отходят на второй план. Сейчас исследователи выпустили спецификации и доказательства для анализа Signal в открытый доступ, чтобы помочь другим проектам.
Что поменялось
ИИ-агенты теперь могут помогать математически доказывать отсутствие уязвимостей в коде, сокращая время на рутинные расчеты.
· обновлено, версия 3
Текст подготовила языковая модель по материалам источников.
