tensorflow解决gpu随机性问题,可复现

最近在准备小论文的实验,因为是做对比实验,但是由于存在随机性,在tensorflow框架中每次运行的结果都不一样,导致我改进的方法不知道是由于随机性造成的还是真的起到了作用,越来越怀疑,于是到处搜,怎么消除网络的随机性,终于在今天解决了这个问题,接下来可以放心调参了。

首先所有的初始化要设置随机种子,在网络训练最前面加上以下代码,消除参数初始化带来的随机性,如果你的程序中用到了dropout也是需要设置seed的。

以上是图级seed,我验证了每次sess.run还是会导致结果不一致,只是当前会话中运行是一致的,因此如果你的程序中用到了随机初始化权重,是需要设置一个操作级seed的,如下所示

tf.get_variable('weight', shape, tf.float32, initializer=tf.truncated_normal_initializer(mean=0,stddev=0.02,seed=1)

seed=1就是操作级的随机种子设置。

然而单单设置上面的,每次运行的结果还是不一样,于是又苦逼的搜了很久,有的地方看到是因为gpu也会带来随机性,于是带着这个关键字又去搜,终于我找到了一个非常有用的方法,在调用第三方库的地方加上以下代码,首先需要pip install tensorflow-determinism(支持 tensorflow1.14以上的版本), 附上相关链接https://github.com/NVIDIA/framework-determinism

这样做就可以解决每次运行不一样的结果啦

就可以当一个快乐的调参侠

 

  • 2
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 12
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 12
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值