卷积神经网络

神经网络的问题

在处理二维图像问题中,全连接网络表现不是很好,因为随便一张图片将它变成一维数据,再输入到全连接网络,其参数是指数式增长。机器容量和性能不允许。
在这里插入图片描述
在这里插入图片描述

图像模式的特性一

平移不变性
在这里插入图片描述

图像模式的特性二

尺度不变性
在这里插入图片描述

卷积神经网络解决方法:

在这里插入图片描述
卷积:解决平移不变性
池化:下采样对图片进行缩放。

CNN基本结构

在这里插入图片描述

输入层

可以是三通道彩色图片,也可以是单通道灰度图。

卷积层(特征提取)

根据不同卷积算子,提取不同的featuremap
例:
在这里插入图片描述

卷积核(应用)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

步长(stride)

在这里插入图片描述
如果步长大于1,相当于做下采样,跳过许多计算,计算量会大面积减少。

padding(边缘填充)

在这里插入图片描述

卷积层尺寸

卷积后的图像尺寸:
宽 = (上一层宽度 + 2*填充 - 卷积宽度)/ stride +1
高同理
深度 = 卷积核数

激活层

在这里插入图片描述
前两个是比较经典的sigmoid函数和tanh函数。第三个是著名的ReLu函数。
前两个激活函数有个共同的缺陷,当网络深度比较深时,会出现梯度消失问题。

池化层

在这里插入图片描述

两种典型的池化操作

在这里插入图片描述

池化层尺寸

在这里插入图片描述

全连接层

在这里插入图片描述
将多个featuremaps变成一维向量输入全连接层,打破了空间限制,对不同特征进行加权,对不同类别打分。

小结

在这里插入图片描述

CNN网络训练

损失与误差反向传播

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

梯度下降

在这里插入图片描述
梯度下降方法总结
在这里插入图片描述
在这里插入图片描述

反向传播

在这里插入图片描述

sigmoid举例

在这里插入图片描述

模型评估

在这里插入图片描述
在这里插入图片描述

模型正则化

在这里插入图片描述
在这里插入图片描述

参考

读心术相关课程

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Mr.Ma.01

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值