作者:cheahom
来自公众号:CV算法恩仇录
关注获得第一手资源
目录
- 卷积神经网络
- 详解卷积层
- 卷积层的运算
卷积神经网络
卷积神经网络(Convolutional Neural Network 又称 CNN 或 ConvNet)是一种具有表征学习、局部连接、权重共享平移不变性等特性的深层前馈神经网络。
卷积神经网络,最初是受生物学领域上的“感受野”机制的启发而提出的。
生物学领域的“感受野”机制指的是生物神经元只接受特定刺激区域内的信号,即感受器受刺激兴奋时,通过感受器官中的向心神经元将神经冲动(各种感觉信息)传到上位中枢,一个神经元所反应(支配)的刺激区域就叫做神经元的感受野。
卷积神经网络就是一种具有“感受野”的神经网络,一般由卷积层、池化层、激活层等交叉堆叠而成。卷积神经网络中卷积层上的任意一个权重,在一次计算中,只会与输入图像的一个特定区域相互关联,这一特定区域就是这个权重所对应的“感受野”。
最原始的神经网络是使用全连接层搭建的神经网络,卷积神经网络从基本原理上来讲,与全连接神经网络非常相似,它们都是由可优化的神经元组成,神经元内的权重与偏置量可根据梯度进行更新。
在前向传播过程中,每个神经元都会得到一些输入数据,这些数据与权重、偏置量进行内积运算后,再经由激活函数输出给下一层。
整个运算过程依旧可看做是一个可导的评分函数,输入是原始图像的所有像素值;输出是不同类别的评分值(最后一层使用全连接层输出评分值)。
详解卷积层
卷积层是整个卷积神经网络的核心模块,它承担着繁重的运算工作。
一维卷积
一维卷积时常用在信号处理任务中,计算信号的延迟累积程度。假设一个信号源每隔时刻 t t t 产生一次信号 x t x_t xt,此信号源的衰减率为 w k w_k wk,那么可知,在 k − 1 k-1 k−1 个时刻之后,信息衰减为 k k k 时刻的 w k w_k wk 倍。
假设 w 1 = 1 w_1 = 1 w1=1, w 2 = 1 / 2 w_2 = 1/2 w2=1/2, w 3 = 1 / 4 w_3 = 1/4 w3=1/4,则在第 t t t 个时刻收到的信号 s t s_t st 为当前时刻所产生的信息,以及先前时刻延迟信息的叠加,即:
上式中 w 1 w_1 w1、 w 2 w_2 w2