READ-2365 Byzantine-Robust Learning on Heterogeneous Datasets via Resampling

论文名称	Byzantine-Robust Learning on Heterogeneous Datasets via Resampling
作者	Lie He, Sai Praneeth Karimireddy, Martin Jaggi
来源	arXiv 2020
领域	Machine Learning - Federal learning - Security – poisoning attack
问题	已有的大多数防御均假设客户端数据独立同分布，但实际场景下数据是异构的
方法	提出了一个重采样方案，该方案可以与现有的聚合规则相结合，以允许对异构数据进行鲁棒的训练

---

阅读记录

---

总结

针对本文所提出的攻击，mimic attack只是针对基于几何中值的聚合方式提出的，不具有推广性；针对本文提出的防御方法，防御时设置同一个梯度被采样的次数上限的做法，很容易就可以被破解：攻击者在实施共谋攻击后，使用噪声扰动就可以绕过防御，攻击者甚至可以共谋设置噪声加入的方式，使得所有恶意客户端的噪声相加后相互抵消。