论文名称 | Security-Preserving Federated Learning via Byzantine-Sensitive Triplet Distance |
---|---|
作者 | Youngjoon Lee, Sangwoo Park, Joonhyuk Kang |
来源 | arXiv 2022 |
领域 | Machine Learning - Federal learning - Security – Model poisoning attack |
问题 | 已有工作只通过在服务器端聚合客户端模型的子集来缓解投毒攻击,但由于评分函数仅基于局部模型之间的距离来计算,成对距离可能会导致评分函数缺乏信息,仍不能成功地过滤离群值 |
方法 | 从每个局部模型和前一个全局模型中提取基本信息,以类似于三重损失的方式定义距离度量,从而敏感地判别模型是否中毒 |
阅读记录
总结
针对缩放攻击、高斯攻击:
- 若评价客户端恶意性的函数仅基于局部模型之间的距离来计算可能丧失了部分信息。因此,可以使用三元组距离设计评价函数,同时对比全局模型与其他两个客户端模型之间的距离