联邦学习框架fedml中集成谷歌提供的差分隐私框架opacus遇到的问题

联邦学习框架fedml中集成谷歌提供的差分隐私框架opacus遇到的问题

由于opacus提供的是DP-SGD,在fedml中将代码定位到具体客户端训练的.py文件中,如my_model_trainer_classification.py

根据opacus的官网教程,在对应位置添加如下代码(超参要自己模型调整):

在这里插入图片描述

保存,运行,在第一轮训练完第一个客户端,准备训练第二个客户端时报错,报错如下:“Trying to add hooks twice to the same model”,即对模型重复两次调梯度,怀疑可能是model = self.model这边有问题,遂将代码改为:

在这里插入图片描述

即重新new了一个模型,抛弃使用self.model,并且将函数的返回值做了一定的修改,报错完美解决

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 10
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 10
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值