Исследователи Google DeepMind использовали агентный ИИ для математического доказательства нескольких ключевых криптографических гарантий протокола Signal, сообщает Wired, освещающий эту работу. Эта демонстрация, проведенная в качестве проекта proof-of-concept, представляет собой заметный прогресс как для широко используемой криптографии, так и для самого искусственного интеллекта.
Проект длился четыре недели. Во-первых, он дает новое независимое подтверждение криптографии, защищающей огромный объем коммуникаций на таких платформах, как приложение Signal, Google Messages и WhatsApp. Он также демонстрирует возможности формальной верификации от Google DeepMind благодаря новой платформе ИИ под названием AlphaProof Code.
Формальная верификация, заключающаяся в использовании математики для проверки соответствия работы ПО задуманному, давно преподносится ее сторонниками как Святой Грааль программной безопасности. Она позволяет проверить отсутствие критических уязвимостей в программе. Однако ее широкомасштабное применение остается под вопросом, будь то повсеместное внедрение или эффективность для защиты больших объемов кода.
До эпохи ИИ эта задача была крайне трудоемкой: требовалось описать характеристики проверяемого ПО, перевести эти описания в формулы, а затем разработать доказательство. По данным источника, агентный ИИ может значительно сократить время, необходимое для последнего этапа, что и сделало возможным проведение анализа, подобного выполненному для Signal. Однако этот анализ остается ограниченным. Он, например, не позволил формально проверить все мобильное приложение Signal, и исследователи DeepMind подчеркивают, что их результаты представляют собой лишь шаг в более масштабном процессе.
Смешанные результаты для старых версий
Анализ не выявил новых уязвимостей в проверенных частях протокола. Когда исследователи применили AlphaProof Code к старым версиям Signal, содержащим давно известные и исправленные уязвимости, инструмент корректно их идентифицировал и показал, что протокол не может быть формально верифицирован в этих версиях.
Сварат Чоудхури, научный сотрудник DeepMind, так охарактеризовал оставшийся путь: «Мы очень воодушевлены этим результатом, но предстоит пройти еще долгий путь, прежде чем мы сможем распространить этот подход на все программное обеспечение в мире, и мы хотим этого достичь». Исследователи публикуют спецификацию и разработанное доказательство для анализа протокола Signal, чтобы облегчить дальнейшие работы по формальной верификации.
