深入理解卷积神经网络是如何学习到不同特征

首先,卷积神经网络从低层到高层过程中,先是通过卷积层的卷积核提取低级特征(如垂直边缘特征,水平边缘特征,颜色等局部特征),随着层数加深,慢慢实现层边缘特征到局部特征的转换(在中间主要靠池化层扩大感受野),到了全连接层,就逐渐实现将多个部分特征(即每个特征图代表一种特征)组合为整体的转变。

重点是,最初卷积层是如何提取多个特征?
因为随机初始化权重导致不同的卷积核有不同的参数,而后更新的过程中导致它们的差别越来越大。(每层的多个卷积核组合在一起就相当于该层的权重矩阵,卷积核随机化就是对权重的初始化)
随机初始化带来的结果是,不同的filter面对相同的输入会产生有差异的输出,这一差异让损失函数的反向传播对同一层的多个卷积核有不同的倾向,最终的结果就是学习到不同的特征。

  • 3
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值