READ-2364 Deep Model Poisoning Attack on Federated Learning

论文名称	Deep Model Poisoning Attack on Federated Learning
作者	Xingchen Zhou, Ming Xu , Yiming Wu, Ning Zheng
来源	MDPI 2021
领域	Machine Learning - Federal learning - Security – poisoning attack
问题	已有的投毒攻击：无法同时达到有效性、隐蔽性、持久性的要求：1、无目标投毒攻击降低了主任务的整体性能，因此更容易被检测到；2.已有防御显式改变了模型的权值分布，因此更容易被防御方检测出来；3.由于联邦学习系统中客户端数量庞大，部分攻击的持久性较差
方法	提出了一种基于优化的模型投毒攻击，利用模型容量，向模型冗余空间注入中毒神经元

---

阅读记录

---

总结

1. 出发点
   （1）交替最小化：交替训练一小批中毒数据和干净数据，平衡主任务和对抗任务
   （2）正则化项：使得恶意模型的更新量与良性客户的更新量相似
2. 挑战：计算Hessain矩阵需要耗费大量的时间，但服务器可能会剔除不能按时回复的客户端