论文名称 | Sageflow: Robust Federated Learning against Both Stragglers and Adversaries |
---|---|
作者 | Jun-Gyu Park, Dong-Jun Han, Minseok Choi, J. Moon |
来源 | NIPS 2021 |
领域 | Machine Learning - Federal learning - Security - Model & Data poisoning attack |
问题 | 没有方案可以同时解决落后客户端和恶意攻击者的问题 |
方法 | 根据到达延迟对模型进行分组和加权,可以对落后者提供鲁棒性;使用基于熵的滤波和损失加权平均,在每个分组阶段以高度互补的方式工作,可以对抗广泛的敌手攻击 |
阅读记录
总结
针对模型投毒攻击:
- 良性模型为了对数据的真实标签获得更高的置信度,将具有更低的预测熵与损失值,而恶意模型倾向于随机预测所有类别的数据,因此在辅助数据集上得到的熵和损失更大。