Google DeepMind представила AlphaProof Code — систему формальной проверки программ с ИИ-агентами. По заявлению исследователей, она доказала ключевые свойства безопасности скомпилированного кода криптографического протокола Signal. Проверка заняла четыре недели
Эксперты утверждали математические требования, а агенты на базе модели Gemini Carbon строили доказательства. Получилось более шести миллионов строк на языке Lean: эта система автоматически проверяет доказательства, созданные нейросетью
Для контрольного испытания исследователи вернули две ранее исправленные ошибки в изолированную версию кода. В обоих случаях система получила машинно проверенные доказательства нарушения безопасности. Материалы формальной проверки открывают для сообщества
Можно ли считать после этого весь мессенджер защищённым? Доказательства относятся к заданным свойствам криптографического ядра. Распространять этот результат на остальной код приложения и операционную систему было бы необоснованно
Первоисточник — Google DeepMind
Сообщите редакции. Существенные исправления мы отмечаем в материале