联邦学习框架浅析

【前言】
▲ 联邦学习问题回顾
前文提及，于2016年，Google提出了用于训练输入法模型的新型方式，称为「联邦学习」。随着时间的推移，联邦学习不再是单纯解决Google输入法模型的一种解决方案，进而形成了一种新型的学习模式。联邦学习解决的问题通常被称为TMMPP–Training Machine Learning Models over multiple data sources with Privacy，即在保证多方参与者的数据不泄露的情况下，共同完成预定模型的训练。

在联邦学习解决的TMMPP问题中，包含了n个数据方（Data Controller）{D1,D2,…Dn}，其中，每个数据方对应拥有着n个数据{P1,P2,…Pn}。从联邦学习的训练模式来看，在选定好需要进行训练的联邦学习算法后，需为联邦学习提供相应的输入，最终得到训练后的输出。
联邦学习的输入（Input）: 每个数据方将Pi其拥有的原始数据Di作为联合建模的输入，输入进联邦学习的进程中。

联邦学习的输出（Output）：联合所有参与方的数据，联邦训练出全局模型M （在训练过程中不将任何数据方的原始数据的任何信息透露给其他实体）。

▲ 联邦学习所遇挑战
联邦学习技术还在持续的完善中。在发展的过程中，联邦学习会遇到三大挑战，他们分别分别是统计挑战、效率挑战、安全挑战。

【统计挑战】统计挑战是在联邦学习执行过程中，因为不同用户数据的分布或者数据量的差异造成的挑战；

a）非独立同分布数据（Non-IID data），即不同用户数据分布不独立，有明显的分布差别，比如甲方拥有的是中国北方的水稻种植数据，而乙方拥有的是中国南方水稻种植数据，由于纬度，气候，人文等影响，双方的数据是不服从于同分布的；

b）非平衡数据（Unbalanced data），即用户的数据量有明显的差异，比如巨头企业掌握着近千万的数据量，而小公司仅掌握数万条的数据，两者合作，小公司的数据对巨头企业的影响微乎其微，也难以在模型训练中做出贡献。

【效率挑战】效率挑战指的是在联邦学习中各个节点本地计算与通信的消耗造成的挑战；

a）通信开销，即用户（参与方）节点之间的通信，通常指的是在限定带宽的前提下，各个用户之间传输的数据量的大小，数据量越大，则通信损耗越高；

b）计算复杂度，即基于底层加密协议的计算复杂度，通常指底层加密协议计算的时间复杂度，算法计算逻辑越复杂，消耗时间越多。

【安全挑战】安全挑战指的是，在联邦学习过程中，不同的用户使用不同的攻击手段造成信息破解、下毒等挑战；

a）半诚实模型，即各用户诚实的执行联邦学习中的所有协议，但是会利用获取信息尝试分析并回推他人数据；

b）恶意模型，即存在客户不会严格遵守节点之间的协议，并可能对原始数据或者中间数据进行下毒以破坏联邦学习进程。

【联邦学习常用框架】

面对以上三大挑战，学术界进行针对性的研究，提出了许多有效的、专用的联邦学习框架来优化联邦学习训练过程。下文我们将对这些框架进行简单介绍。

联邦学习1.0 – 传统联邦学习（Federated Learning）
首先，我们重新阐述一下联邦学习的概念与原理：存在若干参与方与协作方共同执行联邦学习任务，参与方（即数据拥有方）通过预置好的联邦学习算法，生成类似于梯度的中间数据，交由协调方进行进一步的处理，随后返还给各参与方，为下一轮的训练做准备。

周而复始，联邦学习任务完成。整个任务中，参与方的本地数据在各个FL框架中并没有参与交换，但协调方和参与方之间传输的参数(比如梯度)可能会泄漏敏感信息。

为了保护数据拥有方的本地数据不被泄露，并在训练过程中保护中间数据的隐私，在FL的框架中应用了一些隐私技术，在参与方与协调方交互时私下交换参数。进一步，从 FL 框架中使用的隐私保护机制来看，将 FL框架分为：

1）非加密的联邦学习框架（即未对任何信息加密）；

2）基于差分隐私的联邦学习框架（使用差分隐私的方式对信息进行混淆加密）；

3）基于安全多方计算的的联邦学习框架（使用安全多方计算的方法对信息进行加密） ；

▲ 非加密的联邦学习框架
许多FL框架侧重于提高效率或解决统计异质性的挑战，而忽略了交换明文参数所带来的潜在风险。

2015年，由Nishio等人提出的用于机器学习的移动边缘计算框架FedCS[3]，在异构数据属主的设置的基础上，可以快速并高效地执行FL。

2017年，由Smith等人提出了一个名为MOCHA[2]的系统感知优化框架，该框架将FL与多任务学习相结合，通过多任务学习的方式来处理统计挑战中的非同分布数据与数据量差异导致的各种挑战。

同年，梁等人提出了LG-FEDAVG[4]结合局部表示学习（local representation learning）。他们表明，局部模型可以更好地处理异构数据，并有效地学习公平的表示，混淆受保护的属性。

下图所示：完全未加密任何中间数据的联邦学习流程，所有的中间数据（如梯度）全是明文传输与计算。通过以上方式，参与方最终共同学习，得到联邦学习模型。

▲ 基于差分隐私的联邦学习框架
差分隐私（DP） 是一种隐私技术[5-7]，具有很强的信息理论保证，可以在数据[8-10]中增加噪声。满足 DP 的数据集可以抵抗对私有数据的任何分析，换句话说，所获得的数据敌手对于在同一数据集中推测其他数据几乎是无用的。通过在原始数据或模型参数中添加随机噪声，DP 为单个记录提供统计隐私保证，从而使数据无法恢复以保护数据属主的隐私。

下图所示：采取差分隐私对中间数据进行加密后的联邦学