READ-2345 FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning

论文名称	FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning
作者	Kaiyuan Zhang, Guanhong Tao, QiuLing Xu, Siyuan Cheng, Shengwei An, Yingqi Liu, Shiwei Feng, Guangyu Shen, Pin-Yu Chen, Shiqing Ma, Xiangyu Zhang
来源	arXiv 2022
领域	Machine Learning - Federal learning - Security - Backdoor attack
问题	现有的方法只适用于只有少量攻击者参与几轮single-shot attack的场景，而在攻击者连续攻击场景中效果不佳
方法	对于每个良性客户端，Flip会在生成的后门触发器上对抗性地训练本地模型，在聚合的全局模型时，注入的后门特性被良性客户端上执行的强化减轻

---

阅读记录

---

总结

为了增强模型自身的稳健性，良性客户端可以在数据存在噪声的情况下进行训练，让模型学习到更稳健的特征，提高模型的泛化性。