论文名称 | Thinking Two Moves Ahead: Anticipating Other Users Improves Backdoor Attacks in Federated Learning |
---|---|
作者 | Yuxin Wen, Jonas Geiping, Liam Fowl, Hossein Souri, Rama Chellappa, Micah Goldblum, Tom Goldstein |
来源 | arXiv 2022 |
领域 | Machine Learning - Federal learning - Security – poisoning attack |
问题 | 单个客户端的攻击能力有限,他们的更新很快就会被其他客户端的更新淹没,现有攻击没有考虑到其他客户端的未来行为,因此其影响很快就会被抹去 |
方法 | 提出了一种可以预测良性客户端未来行为的攻击,保证后门快速长久 |
阅读记录
总结
- 出发点:后门容易在之后的通信过程中被消除,因此需要嵌入能够与良性更新共存的后门
- 设计:本文在利用恶意数据计算完恶意模型后,恶意客户端需要利用本地的良性数据模拟良性客户端贡献对攻击的消除作用,从而保证在未来通信过程中,攻击可以持久存在