pytorch dropout || model.train() || model.eval()

今天学习pytorch,发现模型中间加了一层dropout层:

x = F.dropout(x, training=self.training)

大家知道,dropout层的作用就是将前面一层神经元的元素以一定概率置为0,减少模型对于某些特征的依赖,提高模型的泛化性。这个training=self.training是啥意思呢。要知道我们的模型都是继承自nn.Module类,这个类在训练的时候会使得self.training为true,此时我们就正常使用dropout,而在测试的时候,self.training为false,此时关闭dropout层。

那我们怎么改变模型的状态呢,我们咋知道模型处于训练状态还是测试状态呢,这里就需要用到两个函数:train()和eval()
假设说我们new的模型叫model,那么我们训练和测试应该是这样的:

model.train()  #模型处于训练状态
训练代码…………

model.eval() #模型处于测试状态
测试代码…………
  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

canaryW

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值