论文名称 | XMAM:X-raying Models with A Matrix to Reveal Backdoor Attacks for Federated Learning |
---|---|
作者 | Jianyi Zhang, Fangjiao Zhang, Qichao Jin, Zhiqiang Wang, Xiaodong Lin, Xiali Hei |
来源 | Digit. Commun. Netw. 2022 |
领域 | Machine Learning - Federal learning - Security - Backdoor attack |
问题 | 为了使恶意更新具有更强的隐蔽性,攻击者提出了一些隐藏技术。在该场景下,已有的防御方法性能较差 |
方法 | 使用矩阵作为输入,获取客户端更新的Softmax层输出,然后通过聚类排除输出异常的更新 |
阅读记录
总结
针对PGD:
- 观察发现,模型softmax层的输出在恶意更新和良性更新之间表现出可区分的模式