READ-2303 Defending against Backdoors in Federated Learning with Robust Learning Rate

RLR是一种轻量级的防御策略,针对联邦学习中的后门攻击。它通过调整每轮通信中每个维度的学习率,根据更新的方向来区别良性与恶意客户端。当更新的标识符小于阈值时,学习率会变为相反数,从而增加损失,降低恶意攻击的有效性。RLR尤其对那些试图通过修改局部损失函数来隐藏攻击的对手有效。
摘要由CSDN通过智能技术生成

READ-2303 Defending against Backdoors in Federated Learning with Robust Learning Rate

论文名称Defending against Backdoors in Federated Learning with Robust Learning Rate
作者Mustafa Safa Ozdayi, Murat Kantarcioglu, Yulia R. Gel
来源AAAI 2021
领域Machine Learning – Federal learning – Against Backdoor Attacks
问题传统的健壮性聚合方法主要用于防御无目标攻击,而传统的FedAvg在配合梯度裁剪和噪声加入后对有目标攻击有较好的健壮性,已有基于FedAvg的算法通过改变客户端的学习率进行防御,对拥有相似更新的客户端赋予较小的学习率。这种方法在削弱恶意客户端的更新的同时,也削弱了相似的良性客户端的更新,无法有效区分良性和恶意客户端
方法提出一个基于调整服务器每轮通信中每一维度的学习率的轻量级方法。该方法首先推测在FL设置中成功实施后门攻击的必要步骤,然后根据推测制定防御措施
创新提出一个防御后门攻击的轻量级方法

阅读记录

一、基本概念
  1. FedAvg
    1
  2. FedAvg+weight-clipping+noise
    服务器通过除以一个标量对客户端更新进行裁剪,然后进行聚合,再加入噪声
    2
  3. FoolsGold
    (1)设置:不同客户端不同学习率,而非服务器统一学习率
    (2)原理:假设恶意客户端共享共同的后门任务,他们之间的更新将比真实的更新更相似
    3
  4. sign aggregation
    只传输梯度的标识符,服务器通过标识符进行聚合,客户端通过标识符进行更新
    4
二、攻击模型
  1. 假设:良性模型和恶意模型在某些维度上的更新方向不一样
  2. 恶意客户端的聚合更新:引导全局模型趋近于恶意模型,最小化在后门任务和主任务上的损失
  3. 良性客户端的聚合更新:使全局模型趋近于良性模型,最小化在主任务上的损失
三、Robust learning rate (RLR)
  1. 学习率设置
    (1)含义:对于每一个维度,如果更新的标识和小于阈值,则将学习率转为相反数,以扩大这一维度上的损失,促进模型学习
    (2)作用:对于每一个维度,具有足够的投票才进行更新,最大化恶意攻击者的损失
    5
  • θ:学习阈值
  • i:维度
  • k:客户端
  1. 聚合(FedAvg+RLR)
    作用:不同维度上的学习率不同
    6
  • η:所有维度上的学习率向量
四、RLR性能
  1. 有效性原因:RLR为何可以最大化攻击者的损失
    7
  2. 防御效果
    RLR显著降低了木马模式后门攻击的有效性。在FL设置中,成功实施语义后门攻击需要对参数进行增强(scaling attack),而木马后门比语义后门更强大。在高级别上,对手可以修改局部损失函数使恶意更新更接近诚实更新,但这可能会导致他的攻击失去效力。对此,RLR无法找到攻击者,而是通过乘以-η来否定他的更新,因此对手不能仅仅通过修改损失函数来绕过RLR的防御

总结

RLR的关键思想是根据客户端更新的符号信息调整聚合服务器的每维度和每轮学习率。同时RLR背后的洞察力也与non-i.i.d.环境中有关,即使在没有对手的情况下也是如此。因为,本地分布的差异可能会导致来自不同的更新,从而将模型引向损失面上的不同方向。作为未来的工作,作者计划分析RLR如何影响在不同non-i.i.d.设置下训练的模型的性能

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值