打破界限：Zator——使用递归SNARK验证512层神经网络的力量

打破界限：Zator——使用递归SNARK验证512层神经网络的力量 🌠

在近一年的时间里，通过SNARKs（简洁非交互式零知识证明）验证神经网络推理的进展令人瞩目。以EZKL和D. Kang等人的工作为例，他们已经能够对像50层MobileNetV2这样的复杂模型进行SNARK化处理。然而，将整个计算轨迹压缩到单个电路中的方法限制了更深层次模型的验证。

这就是Zator的创新之处。我们探索了一种新途径，即利用递归SNARKs逐层验证神经网络，而不是一次性验证所有层。我们选择了Micrsosoft的Nova构造，它采用折叠方案，能将重复计算的N步合并为一个单一实例。这样，只需一次证明的成本，就能验证拥有512层（总计2.5亿约束条件！）的网络——这比许多生产级AI模型还要深。

跨越深度限制的神经网络验证

我们开发了一个框架，用于验证任意深度神经网络的计算轨迹。设计的核心是结合Nova和Spartan证明系统。Nova的折叠策略创建了一个初始的放松R1CS实例，并在N次折叠后转化为单个实例。仅需一次昂贵的SNARK机制调用来证明这个“单一”实例。

我们的网络被划分为三个部分：头部、主干和尾部。头部接收MNIST数据库的28x28图像并输出激活；主干电路负责验证中间层；尾部则产生最终的输出概率。这种分段设计适应了Nova对同质性计算的需求。

头部、主干和尾部电路设计

头层接受输入图像和权重矩阵、偏置向量作为私有信号，产出激活的哈希值。主干层电路消耗上一层的激活值、权重矩阵和偏置向量，同时接收前一激活值的哈希值作为公共信号，确保执行的正确性。尾部同样需要验证激活值的哈希，但会产生最终的输出哈希。

性能基准测试

我们的基准测试展示了不同递归步骤和每步层数配置下的性能：

| 递归步骤数 | 每步层数 | 证明者时间 | 验证者时间 | | -------------- | -------- | ------------- | --------------- | | 510 | 1 | 26966.845196061s | 24.368612649s | | 255 | 2 | 29082.011583061s | 47.735558201s | | 170 | 3 | 30226.823210226s | 62.657654495s |

这些测试在无GPU的AWS实例上进行，虽然牺牲了一些硬件加速的优势，但仍然体现了递归验证的有效性。

结语

Zator展现了递归SNARK的巨大潜力，能够验证迄今为止最深的神经网络。借助Nova和Spartan，我们不仅打破了深度限制，还提供了可扩展性和效率的保证。这是一个强大的工具，对于区块链、隐私计算和安全认证等领域来说，无疑是一个重要的里程碑。

感谢项目团队和贡献者的辛勤付出，特别是Dan Boneh博士、Nalin、Hack Lodge以及Srinath和Dr. Cathie的宝贵支持。让我们共同探索这一前沿技术，解锁未来无限可能！

如果你对验证深度学习模型的底层计算感兴趣，或者正在寻找提高隐私保护的新方法，Zator绝对值得你尝试！