论文阅读--An efficient privacy-preserving and verifiable scheme for federated learning

Title：An efficient privacy-preserving and verifiable scheme for federated learning
Preliminaries：
（一）Linear Homomorphic Hash (线性同态哈希)
Notes：（1）LHH具有同态性质，对输入数据进行线性组合（如加权求和）的结果可以对单独哈希值的线性组合直接计算，而无需访问原始数据；（优点：a.隐私保护：不需要访问和传输原始数据，只需要处理哈希值即可进行验证，从而保护了数据隐私；b.提升计算效率：线性组合的计算只需要处理哈希值，减少计算和通信开销）（2）可以在多个节点间进行有效验证（a. 一致性验证：通过比较不同节点生成的哈希值，可以验证它们是否处理了相同的数据；b.能够检测数据是否被篡改，如果数据被篡改，哈希值会发生变化）；c.适合于分布式场景，如分布式存储，数据聚合等。

LWE的正确性证明：

研究实体：多个客户端（诚实但好奇的）；两个服务器（一个是诚实但好奇的，一个是恶意的）—两个服务器会进行相互验证在互相验证成功之后，诚实但好奇的实体发送正确的聚合结果，而恶意的实体仍然可能发送错误的聚合结果。
研究问题：（1）隐私问题：敌手从梯度信息中重构隐私信息，包括保证客户端的梯度信息和聚合结果的隐私信息（2）可验证性问题：恶意客户端伪造聚合结果。
研究方法：结合容错学习（learning with error）(确保服务器仅在加密域上执行聚合) 和秘密共享技术保证梯度和聚合结果的隐私性；设计双验证协议（客户端和服务器）去验证聚合结果的正确性和确保数据的可用性。
（1）服务器端验证：两个服务器利用线性同态哈希互相验证对方的聚合结果；
（2）客户端验证：可以验证出由半诚实客户端发送的正确结果
达到效果：（1）客户端和服务器不能获得特定客户端的梯度信息（2）服务器无法获得客户端和聚合结果的信息
（3）两个客户端可以互相验证聚合结果的正确性（2）当服务器验证之后，恶意客户端仍然可能会返回恶意聚合结果，当两个服务器返回的结果不一致时，客户端可以找出正确的聚合结果。
研究思路：step1：每个客户端加密训练梯度，并将加密后的梯度分割为两份，并对分割后的密文进行哈希，将分割后的密文份额及其哈希发送给服务器；step2：两个服务器将收到密文份额发送给对方进行交叉验证，随后两个服务器将聚合结果发送给客户端（此时恶意的那个客户端依然还有可能发送伪造的聚合结果给客户端）；step3：客户端验证服务器返回的聚合结果，以识别正确的聚合结果（由半诚实的服务器发生的）
疑问：既然恶意的服务器在交叉验证之后依然还会选择伪造的聚合结果，为什么还需要交叉验证，直接由客户端验证不行嘛？—因为客户端上传的密文梯度的份额，即每个服务器只能收到其中1/2的份额，则当客户端向两个服务器上传密文梯度的份额时候，两个服务器科研进行交叉验证，当验证通过之后，服务器就可以获得对方的密文梯度份额，则可以利用对方的密文梯度份额域自己收到的密文梯度份额整合为一个完整的聚合结果（通过拉格朗日插值定理进行恢复）。然而，在服务器验证通过之后，恶意的服务器依然可以发生伪造的聚合结果，则客户端需要验证服务器返回的聚合结果以识别出正确的聚合结果。则客户端使用正确的聚合结果进行下一轮的迭代训练。

Note：（1）利用同态加密可以防止服务器获得客户端的局部梯度和聚合结果