Pytorch深度学习 - CNN

最新推荐文章于 2023-06-29 20:55:16 发布

只要出发，总会到达

最新推荐文章于 2023-06-29 20:55:16 发布

阅读量190

点赞数 1

文章标签：深度学习 pytorch cnn

本文链接：https://blog.csdn.net/qq_50499828/article/details/128697486

版权

卷积神经网络(CNN)通过卷积核扫描图像获取特征，参数量相对较少。卷积后经池化层降低维度，BatchNormalization加速训练并防止过拟合。ResNet利用残差结构解决深度学习层数增加导致的效果下降问题。

摘要由CSDN通过智能技术生成

图像卷积：使用卷积核扫描整张图片，每一次扫描与全局图对应部分相乘再累加

相比于线性层，CNN参数量更少，只有特征图上的点作为参数。

通常卷积核有多个，具体向量维度举例如下：

假设图像向量维度为【batch_size, channel_size, height, width】

卷积核的维度是【kernel_num, channel_size, kernel_height, kernel_width】

卷积核的通道数一定与图像的通道数保持一致，每个卷积核对应一个偏置，每个卷积之后得到的三个通道叠加得到一个新向量，因此输出的向量通道数与卷积核数保持一致。

卷积之后得到的特征包含信息越多

池化层作用：给特征图降维，有最大值池化和平均池化

传统CNN模块包含

conv2d - BatchNormalize（对feature进行缩放，使其接近于正态分布） - Pooling - ReLU（去掉相应低的特征部分）

Batch Normalization

目的：

减少梯度消失，加快了收敛过程。

起到类似dropout一样的正则化能力，一定程度上防止过拟合。

放宽了一定的调参要求。

When to use BN:

在神经网络训练时遇到收敛速度很慢，或梯度爆炸等无法训练的状况时可以尝试BN来解决。另外，在一般使用情况下也可以加入BN来加快训练速度，提高模型精度。