5-4-CNN

最新推荐文章于 2024-07-08 02:56:09 发布
最新推荐文章于 2024-07-08 02:56:09 发布
阅读量177 收藏
点赞数
分类专栏： 深度学习算法5 文章标签： cnn 神经网络 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_52316711/article/details/120085996
版权

CNN

1 卷积神经网络

卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），是深度学习（deep learning）的代表算法之一 。

卷积神经网络具有表征学习（representation learning）能力，能够按其阶层结构对输入信息进行平移不变分类（shift-invariant classification），因此也被称为“平移不变人工神经网络（Shift-Invariant Artificial Neural Networks, SIANN）” 。

2 人工神经网络

2.1 神经元

神经网络由大量的神经元相互连接而成。每个神经元接受线性组合的输入后，最开始只是简单的线性加权，后来给每个神经元加上了非线性的激活函数，从而进行非线性变换后输出。每两个神经元之间的连接代表加权值，称之为权重（weight）。不同的权重和激活函数，则会导致神经网络不同的输出。

神经网络的每个神经元如下
在这里插入图片描述
基本wx + b的形式，其中

x 1 , x 2 x1, x2 x1,x2表示输入向量
w 1 , w 2 w1, w2 w1,w2为权重，几个输入则意味着有几个权重，即每个输入都被赋予一个权重
b b b为偏置 b i a s bias bias
g ( z ) g(z) g(z)为激活函数
a a a为输出

2.2激活函数

激活函数

2.3 神经网络

三层神经网络结构
在这里插入图片描述

  • 输入层（Input layer），众多神经元（Neuron）接受大量非线形输入讯息。输入的讯息称为输入向量。
  • 输出层（Outputlayer），讯息在神经元链接中传输、分析、权衡，形成输出结果。输出的讯息称为输出向量。
  • 隐藏层（Hidden layer），简称“隐层”，是输入层和输出层之间众多神经元和链接组成的各个层面。如果有多个隐藏层，则意味着多个激活函数。

同时，每一层都可能由单个或多个神经元组成，每一层的输出将会作为下一层的输入数据。

3 卷积神经网络之层级结构

在这里插入图片描述
最左边是

  • 数据输入层，对数据做一些处理，比如去均值（把输入数据各个维度都中心化为0，避免数据过多偏差，影响训练效果）、归一化（把所有的数据都归一到同样的范围）、PCA/白化等等。CNN只对训练集做“去均值”这一步。

中间是

  • CONV：卷积计算层，线性乘积 求和。
  • RELU：激励层，上文2.2节中有提到：ReLU是激活函数的一种
  • POOL：池化层，简言之，即取区域平均或最大。

最右边是

  • FC：全连接层

这几个部分中，卷积计算层是CNN的核心。

4 CNN之卷积计算层

4.1卷积

对图像（不同的数据窗口数据）和滤波矩阵（一组固定的权重：因为每个神经元的多个权重固定，所以又可以看做一个恒定的滤波器filter）做内积（逐个元素相乘再求和）的操作就是所谓的『卷积』操作，也是卷积神经网络的名字来源。

4.2卷积层涉及参数

在这里插入图片描述
　　a. 深度depth：神经元个数，决定输出的depth厚度。同时代表滤波器个数。
　　b. 步长stride：决定滑动多少步可以到边缘。步长越小，特征图越大 步长越大，特征图越小。　　在这里插入图片描述

4.3卷积计算结果公示

图像数据一般步长为1，但是效率低；文本数据不一定
　　c. 填充值zero-padding：在外围边缘补充若干圈0，方便从初始位置以步长为单位可以刚好滑倒末尾位置，通俗地讲就是为了总长能被步长整除。
一定程序上弥补了边界缺失的问题，也就是边界上的值被计算的次数少的问题文本数据也有边缘填充，

在这里插入图片描述
在这里插入图片描述

4.4池化层pooling

最大池化（常用）
卷积后得到的数据有权重，权重大的重要所以取最大的
max pooling
在这里插入图片描述
平均池化（不常用）
average pooling

4.5整体网络架构

正常两次卷积一次池化，
卷积和池化提取特征，全连接层得到输出结果
卷积和池化后，将图像拉长，得到一个向量
在这里插入图片描述

神经网络层数计算

带有参数计算的算一层
卷积层算一层
全连接层算一层

在这里插入图片描述
参考：
https://blog.csdn.net/v_JULY_v/article/details/51812459
https://www.bilibili.com/video/BV1S64y1z7iX?p=77&spm_id_from=pageDriver

chl1123
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
卷积神经网络中感受野的理解和计算
Never-Giveup的博客
10-29 1万+
参考 https://blog.csdn.net/qq_27825451/article/details/83302662 https://blog.csdn.net/program_developer/article/details/80958716 https://blog.csdn.net/SIGAI_CSDN/article/details/80743475（卷积神经网络为什么有效） ...
CNN卷积神经网络学习笔记
TZZtangtangtang的博客
09-04 516
卷积神经网络应用领域 检测任务 追踪任务 分类检索 超分辨率重构 医学任务 无人驾驶 人脸识别 卷积的作用 卷积神经网络与传统网络区别 传统神经网络（nn） 特征是二维的 CNN 特征是三维的，直接输入原始数据 卷积神经网络的整体架构 输入层 卷积层 池化层 全连接层 输入层 图像数据，例如：28x28的数据 卷积层 提取特征 计算过程 将图像进行一个分割，分成多个小块，目的是在不同的区域，得到的特征不一样。 卷积特征值计算方法 图像颜色通道 一张图是三维的，分为R,G,B三个通道分别单独
CNN中的卷积和池化
Rick_rui的博客
06-08 761
首先，介绍一下什么是卷积神经网络。它是使用卷积层（Convolutional layers）的神经网络，基于卷积的数学运算。卷积层由一组滤波器组成，滤波器可以视为二维数字矩阵。这是一个示例3x3滤波器： 我们可以将滤波器与输入图像进行卷积来产生输出图像，那么什么是卷积操作呢？具体的步骤如下：这个4步描述有点抽象，所以让我们举个例子吧。看下面的4x4灰度图像和3x3滤波器： 图像中的数字表示像素亮度，0是黑色，255是白色。我们将对输入图像和滤波器进行卷积，生成2x2输出图像。首先，让我们将滤镜覆盖在图片的左
VGG_net
源式羽语
03-19 765
Vgg网络：牛津大学研究组提出，2014年imagenet竞赛定位任务第一名，分类任务第二名。特点：1.泛化性能良好。在imagenet的预训练模型被常用了提取特征。      2.使用了小卷积核，保持输入大小，为了增加网络深度时确保各层输入大小随深度增加而不极具减小。      3.网络卷积层通道数一次3---64---128---256---512逐渐增加结构：1.    卷积核都用3*3的小...
Python 深度学习--学习笔记（八）
yuan_1520的博客
07-29 380
使用预训练的卷积神经网络学习猫狗分类         在Python 深度学习–学习笔记（七）中，我们从零构建模型并进行学习。增加了增强学习，训练了100轮后，准确率还是没到80%。这很大程度上因为学习的数据不够多。所以，今天我们使用预训练的神经网络。预训练网络（pretrained network）是一个保存好的网络...
Faster R-CNN源码
12-27
4. **可视化**： - `demo.py` 文件可能包含了模型的演示代码，用于显示模型检测的结果。例如，`hi_vis1.png`、`hi_vis.png` 可能是经过模型检测后的可视化图像，显示了检测到的目标及对应的边界框。 5. **其他文件...
cnn-text-classification-tf-master
05-03
本项目"**cnn-text-classification-tf-master**"是基于TensorFlow实现的一个文本分类的示例，它展示了如何利用CNN来理解和解析文本数据。 1. **TensorFlow**：TensorFlow是由Google Brain团队开发的开源库，用于...
BO-CNN-LSTM/Bayes-CNN-LSTM,基于贝叶斯优化CNN-LSTM多特征分类预测（MATLAB完整源码和数据）
04-06
1.BO-CNN-LSTM/Bayes-CNN-LSTM,基于贝叶斯优化CNN-LSTM多特征分类预测（MATLAB完整源码和数据） MATLAB完整源码和数据，纯手工制作，代码质量极高，注释清晰，excel数据，方便替换 2.数据输入15个特征，输出4个类别...
A-Fast-3D-CNN-for-HSIC-master_3D-CNN_ai_
10-01
在标题“A-Fast-3D-CNN-for-HSIC-master_3D-CNN_ai_”中，我们可以推断这是一个专注于3D-CNN优化的项目，特别是利用Hilbert-Schmidt Independence Criterion (HSIC)的优化策略。 HSIC是一种衡量两个随机变量之间...
Grid-R-CNN
03-15
网格R-CNN 在CVPR 2019上发布的更新Grid R-CNN的基于mmdetection的实现。原始文件在，更新的详细信息可以在此看到。 安装 该项目基于mmdetection对象检测框架。 要求 Python 3.5+（ ） PyTorch 1.0+或PyTorch-每晚...
卷积神经网络学习——第一部分：认识并搭建两层卷积神经网络
L2000Ryan的博客
11-19 7797
卷积神经网络——第一部分：认识并搭建卷积神经网络序言网络实现模型构建类和函数的意义及性质nn.Conv2dF.max_pool2dF.reluF.log_softmaxnn.Linear总结 序言    本文基于北邮数据科学基础课程的期中作业和相关课件知识，以Pytorch环境为基础，实现两层卷积神经网络，并针对各个参数进行推导和演算。本文目标： 巩固知识 ，掌握机器学习的相关基础知识，主要包含课件上卷积层、激活层等内容； 强化流程，掌握常规机器学习流程，并对模型中的部分参数进行修改，了解参数的意义；
Caffe学习系列(3)：视觉层（Vision Layers)及参数
weixin_33850890的博客
12-23 445
所有的层都具有的参数，如name, type, bottom, top和transform_param请参看我的前一篇文章：Caffe学习系列(2)：数据层及参数 本文只讲解视觉层（Vision Layers)的参数，视觉层包括Convolution, Pooling, Local Response Normalization (LRN), im2col等层。 1、Convolution层： ...
深度学习100题（1）
热门推荐
乐亦亦乐的博客
09-29 1万+
来源：BAT面试1000题https://zhuanlan.zhihu.com/c_140166199 1、梯度下降算法的正确步骤是什么？ a.计算预测值和真实值之间的误差 b.重复迭代，直至得到网络权重的最佳值 c.把输入传入网络，得到输出值 d.用随机值初始化权重和偏差 e.对每一个产生误差的神经元，调整相应的（权重）值以减小误差 A.abcde B.edcba C.cbaed D.dcaeb 解析：正确答案D，考查知识点-深度学习。 2、已知： - 大脑是有很多个叫做神经元的.
卷积池化后的大小
qq_32801595的博客
06-10 5804
‘SAME’ ‘VALID’ 比如输入图片是28*28的单通道图片，其输入shape为[batch_size, 28, 28, 1]; 第一层卷积为32个5*5卷积核，其shape为[5,5,1,32]，其步长strides为[1,1,1,1]，紧接着是第一层的2*2的max_pooling，其形状为[1,2,2,1]，其步长strides为[1,2,2,1]; 第二层卷积为6...
搭建CNN卷积神经网络（用pytorch搭建）
weixin_46900108的博客
01-20 8275
手撕卷积神经网络—CNN 卷积：提取特征 池化：压缩特征 heigh X weigh X depth 长度 宽度。深度（也就是特征图个数） 例如输入32x32x3 hxwxc 卷积就是取某个小区域进行特征计算用此处的 特征值x权重特征 进而得到最终数据输出 filter相当于助手可以有一个 但是也可以有多个 可以定义f1 f2 f3…当然得到特征图越丰富越是我们想要的结果但是多个卷积核的容积必须是相同 否则则无法相加。 移动步长 可以大一点也可以小一点用1就可以 卷积核尺寸 可以大一点 也可以小一点 大的话
深度学习基础--卷积计算和池化计算公式
wydbyxr的博客
11-14 6577
卷积计算和池化计算公式 卷积   卷积计算中，（）表示向下取整。   输入：n* c0* w0* h0   输出：n* c1* w1* h1   其中，c1就是参数中的num_output，生成的特征图个数。    w1=(w0+2pad-kernel_size)/stride+1;    h1=(h0+2pad-kernel_size)/stride+1;   如果设置stride为1，前后两次...
两次3*3的卷积和一次5*5的卷积那个更优？
qq_39400324的博客
03-11 4772
两次3*3的卷积和一次5*5的卷积那个更优？一级目录二级目录三级目录     如上图所示，一个5x5的原图像，经过一次5*5的卷积核之后得到一个像素点。同样，经过两次3*3的卷积核之后也得到了一个像素点。     这说明，一次5*5卷积之后的特征图和2次3*3卷积之后的特征图的感受野都相同，均为25。那么这两种卷积方式那个更优呢？     这个问题要从其计算量入手，即卷积运算当中的乘加运算----每个像素点都要经过乘加运算。 一级目录 二级目录 三级目录 ...
CNN卷积神经网络基础
haima1998的专栏
07-30 1611
转自：http://www.sohu.com/a/138403426_470008 卷积神经网络基础 神经网络 先借用 CNTK 的一个例子，来看看如何使用神经网络来进行分类。如果想根据一个人的年龄和年收入，对他的政治倾向进行分类（保守派，居中和自由派），怎么做呢？答案是通过已知值，建立并训练一个预测模型。该模型是某种函数，由两个输入产生一个结果，该结果能够解释他属于哪个政治
神经网络设计过程
最新发布
Water_Sunzhipeng的博客
07-08 242
转化为Iris Y(1, 3) = X (1, 4) * W(4, 3) + b(3,) 三个偏置项。梯度下降法：沿损失函数梯度下降的方向，寻找损失函数的最小值，得到最优的参数的方法。2.神经网络方法，采集大量的Iris特征，分类对应标签，构成数据集。学习率：当学习率设置的过小时，收敛过程变得缓慢，过大，会在错过最小值。损失函数可以判断当前W和b的优劣，当损失函数值最小时，W和b最优。损失函数的表达方法之一就是：均方误差：MSE(y, y_) =运用损失函数定义预测值(y)与标准答案(y_)之间的差距。
ARIMA SARIMA VAR Auto-ARIMA Auto-SARIMA LSTM GRU RNN CNN MLP DNN MLP-LSTM MLP-GRU MLP-RNN MLP-CNN LSTM-ARIMA LSTM-MLP LSTM-CNN GRU-ARIMA GRU-MLP GRU-CNN RNN-ARIMA RNN-MLP RNN-CNN CNN-ARIMA CNN-MLP CNN-LSTM CNN-GRU ARIMA-SVM SARIMA-SVM VAR-SVM Auto-ARIMA-SVM Auto-SARIMA-SVM LSTM-SVM GRU-SVM RNN-SVM CNN-SVM MLP-SVM LSTM-ARIMA-SVM LSTM-MLP-SVM LSTM-CNN-SVM GRU-ARIMA-SVM GRU-MLP-SVM GRU-CNN-SVM RNN-ARIMA-SVM RNN-MLP-SVM RNN-CNN-SVM CNN-ARIMA-SVM CNN-MLP-SVM CNN-LSTM-SVM CNN-GRU-SVM ARIMA-RF SARIMA-RF VAR-RF Auto-ARIMA-RF Auto-SARIMA-RF LSTM-RF GRU-RF RNN-RF CNN-RF MLP-RF LSTM-ARIMA-RF LSTM-MLP-RF LSTM-CNN-RF GRU-ARIMA-RF GRU-MLP-RF GRU-CNN-RF RNN-ARIMA-RF RNN-MLP-RF RNN-CNN-RF CNN-ARIMA-RF CNN-MLP-RF CNN-LSTM-RF CNN-GRU-RF ARIMA-XGBoost SARIMA-XGBoost VAR-XGBoost Auto-ARIMA-XGBoost Auto-SARIMA-XGBoost LSTM-XGBoost GRU-XGBoost RNN-XGBoost CNN-XGBoost MLP-XGBoost LSTM-ARIMA-XGBoost LSTM-MLP-XGBoost LSTM-CNN-XGBoost GRU-ARIMA-XGBoost GRU-MLP-XGBoost GRU-CNN-XGBoost RNN-ARIMA-XGBoost RNN-MLP-XGBoost RNN-CNN-XGBoost CNN-ARIMA-XGBoost CNN-MLP-XGBoost CNN-LSTM-XGBoost CNN-GRU-XGBoost ARIMA-ANN SARIMA-ANN VAR-ANN 上面这100个缩写模型的全称及相关用途功能详细解释
07-15
以下是对上述100个缩写模型的全称及相关用途功能的详细解释： ...9. CNN (Convolutional Neural Network): 卷积神经网络，主要用于图像处理，但也可以用于时间序列数据的预测，特别擅长局部模式的识别

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值