READ-2346 XMAM:X-raying Models with A Matrix to Reveal Backdoor Attacks for Federated Learning

论文名称	XMAM:X-raying Models with A Matrix to Reveal Backdoor Attacks for Federated Learning
作者	Jianyi Zhang, Fangjiao Zhang, Qichao Jin, Zhiqiang Wang, Xiaodong Lin, Xiali Hei
来源	Digit. Commun. Netw. 2022
领域	Machine Learning - Federal learning - Security - Backdoor attack
问题	为了使恶意更新具有更强的隐蔽性，攻击者提出了一些隐藏技术。在该场景下，已有的防御方法性能较差
方法	使用矩阵作为输入，获取客户端更新的Softmax层输出，然后通过聚类排除输出异常的更新

---

阅读记录

---

总结

针对PGD：

• 观察发现，模型softmax层的输出在恶意更新和良性更新之间表现出可区分的模式