论文名称 | FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning |
---|---|
作者 | Kaiyuan Zhang, Guanhong Tao, QiuLing Xu, Siyuan Cheng, Shengwei An, Yingqi Liu, Shiwei Feng, Guangyu Shen, Pin-Yu Chen, Shiqing Ma, Xiangyu Zhang |
来源 | arXiv 2022 |
领域 | Machine Learning - Federal learning - Security - Backdoor attack |
问题 | 现有的方法只适用于只有少量攻击者参与几轮single-shot attack的场景,而在攻击者连续攻击场景中效果不佳 |
方法 | 对于每个良性客户端,Flip会在生成的后门触发器上对抗性地训练本地模型,在聚合的全局模型时,注入的后门特性被良性客户端上执行的强化减轻 |
阅读记录
总结
为了增强模型自身的稳健性,良性客户端可以在数据存在噪声的情况下进行训练,让模型学习到更稳健的特征,提高模型的泛化性。