Measure Contribution of Participants in Federated Learning

由于项目需要，所以这篇论文我主要关注的是水平联邦学习的贡献度问题：

背景：
联邦机器学习（FML）为多方创建了一个生态系统，在为参与者保护数据隐私的同时，协作构建模型。在FML中，对各方贡献的度量可以实现公平的信用分配。为了让联合学习的生态系统发挥作用，我们需要鼓励不同的各方贡献他们的数据并参与协作联盟。信用分配和奖励机制对于当前和潜在的联合学习参与者的激励至关重要。公平衡量联邦学习中各方的贡献可以实现公平的信用分配。单靠数据量肯定是不够的，因为一方可能贡献大量的数据，而这些数据对构建模型没有多大帮助。我们需要一种方法来公平地衡量整体数据质量，从而决定贡献。

该论文的研究方向
在横向FML和纵向FML的背景下，开发了简单而强大的技术来公平地计算多方在FML中的贡献。
水平FML：使用删除方法来计算分组实例的影响。
垂直FML：我们使用Shapley值来计算分组特征的重要性。

联邦学习分成三类：
横向(水平)联邦学习，纵向(垂直)联邦学习和联邦迁移学习。

水平联邦学习的删除法
评估第i个实例对模型预测的影响：
使用删除方法，在每次从训练数据集中删除实例时重新训练模型，并测量重新训练模型的预测变化量。假设我们正在评估第i个实例对模型预测的影响，那么影响度量可以表述为：
$$Influenc{e}^{-}i=$$