Google DeepMind 在 11 月 10 日发布了 AlphaProof Code。官方把它称为一套把人类专家和 AI 智能体结合起来、做深层形式化验证的框架,并介绍了一次针对 Signal 协议实际代码的验证工作。官方写道,这是首次用 AI 对广泛部署的加密协议做到这一深度的形式化验证,也是首次有方法对这类协议的实现(而不只是设计)完成形式化验证。

按官方说明,研究人员先与模型一起把 Signal 的安全目标写成形式化规范,并由人类专家逐条审阅;随后由 Gemini Carbon 驱动的智能体完成证明,生成了超过 600 万行 Lean 证明。Lean 会自动检查证明,智能体再标出需要人工复核的部分,官方称大约只占代码库的 1%。验证覆盖到编译后的代码是否满足关键安全性质,例如设备暂时失陷前后消息仍受保护。整个过程官方称用了四周。

为检验系统能否区分正确与有缺陷的代码,团队把两个此前已修复的真实缺陷重新放进隔离副本,官方称两次都得到了 “有缺陷版本不安全” 的机器可检查证明。Signal 技术总监 Ehren Kret 在官方博文中表示,这对实现层面的验证增强了他们对代码隐私保障的信心。官方还写到,将开源形式化验证产物。需要说明的是,这是对核心加密代码中已写下的那些安全性质的证明,并不等于对整个应用或全部攻击面做了担保。

出处: