卷积神经网络中与dropout的相关问题

为什么dropout要用在全连接层?

因为全连接层参数占全部参数数目的大部分,容易过拟合(当参数过多,样本过少时,会使得参数记住训练集中的所有样本,从而使得其在训练集上表现特别好。但在测试集中效果极差)

为什么dropout有效?

  • 组合解释
    • 每次dropout都相当于训练了一个子网络
    • 最后的结果相当于子网络的组合---有集成学习的意思
  • 动机解释:消除了神经元之间的依赖,增强泛化能力

 

 

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值