Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems论文笔记

Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems

总述：本文提出了一种PBFL的方案，可以用来验证用户上传的梯度信息（主要使用到的是余弦相似性），过滤恶意用户的梯度；并且可以防止服务器的单点故障，利用区块链使得协议的执行更加的透明。

本文的主要贡献：因为之前使用的同态加密方案存在低效的问题（具体而言其一次只能加密单字节或者很少的信息量），因此本文考察了各种加密方案之后选择了CKKS作为加密方案（其可以同时对多个浮点数进行加密，使得更高效的加密操作）。并且，要求用户和两个服务器在执行协议之前，将自己的deposit存入区块链，在执行诚实操作后再领取，可以利用激励机制保证服务器正确执行聚合操作。

本文可以改进的地方：仅提供了半诚实敌手下的安全，可以拓展为恶意敌手下的安全性。

核心技术：余弦相似度计算，我们通过人工的方式首先获取一个干净的数据集，通过该数据集计算得到一个干净的梯度信息$g_i^0$，通过利用其来对其他梯度进行筛选来获得在合理范围内的梯度信息，如图Fig4所示。
特别的，恶意用户提交的信息有可能不会进行过归一化处理，这样可以保证其有更高的权重在影响梯度方面，因此我们需要首先过滤掉这些信息。其次，恶意梯度信息在很大程度上与我们的干净梯度信息$g_i^0$是相反的，因此其余弦相似度计算出来的结果为负数，这些梯度也应该进行过滤。

协议流程：

1） 本地计算阶段

a）本地训练，该阶段在用户本地执行，主要为了获取用户的梯度信息。

b）归一化
c）加密阶段：本文主要使用的是CKKS同态加密对信息进行加密操作
d）模型更新阶段：用户收到服务器的聚合模型，利用聚合模型对本地梯度信息进行更新。

2）归一化判断：由服务器来验证用户是否执行了归一化的操作，对未执行操作的用户进行剔除。

!

3）模型聚合阶段

a）两方计算：主要目标计算$[[{\tilde{g}}_i^0{]]}_{p{k}_v}$以及用户提交的$[[{\tilde{g}}_i^j{]]}_{p{k}_v}$的余弦相似度，具体来说计算如下公式：

$$\begin{array}{rl}[[c{s}_i^j]]p{k}_v& =[[{\tilde{\mathbf{g}}}_i^0]]p{k}_v\odot [[{\tilde{\mathbf{g}}}_i^j]]p{k}_v\\ & =[[p_1{q}_1+p_2{q}_2+\cdots +p_{n^{\ast }}{q}_{n^{\ast }}]]p{k}_v.\\ \text{ s.t., }\Vert {\tilde{\mathbf{g}}}_i^0\Vert & =\Vert {\tilde{\mathbf{g}}}_i^j\Vert =1.\end{array}$$

计算得到的结果我们需要经过ReLU层进行过滤，即$S_i^j=\mathrm{Re}LU(c{s}_i^j)$，ReLU的删选原则是，对于复数的相似度信息，将其权重设为0，正数的相似度信息，权重为其对应的大小，即ReLU函数如下所示：

$$\mathrm{ReLU}(x)=\{\begin{array}{ll}x.& \text{ if }x>0\\ 0.& \text{ if }x\le 0\end{array}$$

所以我们需要首先解决的一个问题是，如何设计一种同态的比较最大值的协议，如下所示：

指的注意的是，我们的余弦相似度的输出结果是[-1,1]，而我们的比较协议（来自《Numerical method for comparison on homomorphically encrypted numbers》）要求的范围是[0,1]因此我们需要先进行处理，使其范围满足我们算法的定义，具体而言如下所示：

$$\mathrm{Re}L{U}^{\prime }\left([[c{s}_i^j]]\right)=\{\begin{array}{ll}\frac{1}{2}\left([[c{s}_i^j]]+[[1]]\right).& \text{ if }\frac{1}{2}\left([[c{s}_i^j]]+[[1]]\right)>[[\frac{1}{2}]]\\ [[1/2]].& \text{ if }\frac{1}{2}\left([[c{s}_i^j]]+[[1]]\right)\le [[\frac{1}{2}]]\end{array}$$

相关的算法可以简述如下：

b）聚合操作：服务器进行密文的聚合

$$\begin{array}{rl}[[{\tilde{\mathbf{g}}}_i{]]}_{p{k}_x}& =\frac{1}{\text{ sum }}\sum _{j=1}^{|\mathcal{C}|}[[{\mathcal{S}}_i^j{]]}_{p{k}_x}^{\prime }\cdot [[{\tilde{\mathbf{g}}}_i^j{]]}_{p{k}_x}\\ & =\frac{1}{\text{ sum }}\sum _{j=1}^{|\mathcal{C}|}\mathrm{Re}LU\left([[{\tilde{\mathbf{g}}}_i^0{]]}_{p{k}_x}\odot [[{\tilde{\mathbf{g}}}_i^j{]]}_{p{k}_x}\right)\cdot [[{\tilde{\mathbf{g}}}_i^j{]]}_{p{k}_x}.\end{array}$$