卷积神经网络基础与补充

参考自 

CNN的历史发展:

这一点老师上课的时候也有讲到,BP的出现对CNN的发展至关重要

卷积的特性:关于具体体现在哪,上课老师的ppt讲的非常的明白

目的:进行特征提取,减少训练过程中需要的参数数量

下面这种图也是非常的好,对于理解卷积的过程有很好的理解

需要注意的是:

1.卷积核的chanel和输入矩阵的阿chanel是一致的

2.根据卷积的过程也可以知道最后输出矩阵的chanel是卷积核的个数

反向传播中误差的计算:softmax/sigmoid

一般是用 交叉熵损失 (Cross Entropy Loss)来计算误差

权重的更新

常用优化器:SGD优化器(Stochastic Gradient Descent 随机梯度下降)

  • 缺点:1. 易受样本噪声影响;2. 可能陷入局部最优解
  • 改进:SGD+Momentum优化器

  • 13
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值