论文名称 | Deep Model Poisoning Attack on Federated Learning |
---|---|
作者 | Xingchen Zhou, Ming Xu , Yiming Wu, Ning Zheng |
来源 | MDPI 2021 |
领域 | Machine Learning - Federal learning - Security – poisoning attack |
问题 | 已有的投毒攻击:无法同时达到有效性、隐蔽性、持久性的要求:1、无目标投毒攻击降低了主任务的整体性能,因此更容易被检测到;2.已有防御显式改变了模型的权值分布,因此更容易被防御方检测出来;3.由于联邦学习系统中客户端数量庞大,部分攻击的持久性较差 |
方法 | 提出了一种基于优化的模型投毒攻击,利用模型容量,向模型冗余空间注入中毒神经元 |
阅读记录
总结
- 出发点
(1)交替最小化:交替训练一小批中毒数据和干净数据,平衡主任务和对抗任务
(2)正则化项:使得恶意模型的更新量与良性客户的更新量相似 - 挑战:计算Hessain矩阵需要耗费大量的时间,但服务器可能会剔除不能按时回复的客户端