[学习笔记]重新评估生产联邦学习中的梯度泄漏攻击

1、Fedavg算法介绍

1.1 算法步骤：

        1. 在每一轮迭代的步骤t，服务端发送当前全局模型参数θ给客户端

        2. 非抽样子集中的客户端根据θt，通过SGD更新本地模型

        3. 抽样子集中每个客户端上传更新后的本地参数θt+1

        4. 在迭代步骤t+1，服务端根据全局模型参数θi(t+1)计算出加权平均值θt+1

 1.2 随机梯度下降SGD

目标函数的损失函数通常取各个样本损失函数的平均，假设目标函数J(x)，J(Xi)是第Xi各样本的目标函数，则目标函数的梯度应为第Xi样本的梯度。

随机的意思就是随机采样一个样本的目标函数的梯度来更新。

这个方法可以更快收敛，最终结果往往在全局最优解附近。

1.3 论文中的Fedavg算法