卷积的理解
1.1卷积的数学定义
所谓两个函数的卷积(f∗g),本质上就是先将一个函数翻转,然后进行滑动叠加。在连续情况下,叠加指的是对两个函数的乘积求积分,在离散情况下就是加权求和,为简单起见就统一称为叠加。
1.2卷积的应用
图像处理领域,卷积的主要功能是在一个图像(或某种特征) 上滑动一个卷积核(即滤波器),通过卷积操作得到一组新的特征。一幅图像在经过卷积操作后得到结果称为特征映射(Feature Map)。
下面是互相关处理,互相关处理与卷积的区别是,卷积会把卷积核旋转180度。
我们实现的卷积操作不是原始数学含义的卷积,而是工程上的卷积,但一般也简称为卷积。实际卷积运算中不旋转卷积核。
二维卷积运算实例
2.神经网络中的卷积
2.1卷积神经网络
2.2卷积层
卷积层(Convolution Layer)通常用作对输入层输入数据进行特征提取,通过卷积核矩阵对原始数据中隐含关联性的一种抽象。
2.2.1卷积层的特征
(1)局部连接
全连接层每个神经元都有一个权重,而在卷积层,输出FM的像素点只有输入的局部像素有关,局部连接。
(2)权重共享
输出Feature Map的每个像素对应一个神经元,每个神经元都有一个感受野,每个感受野的权重都是一样的 --神经网络角度理解
卷积核(滤波器)会按步长滑过整个输入矩阵,单个卷积核保持不变。 --滤波器角度理解
2.2.2卷积层的基本参数
参数名 作用 常见设置
3.减少运算量和参数量的方法
3.1分组卷积
https://zhuanlan.zhihu.com/p/490685194 分组卷积
3.2空间可分离卷积
3.3深度可分离卷积
https://blog.csdn.net/BXD1314/article/details/125749761 可分离卷积
3.4二维卷积核三维卷积的区别
参考文章:
https://www.zhihu.com/question/266454022 卷积定义
https://zhuanlan.zhihu.com/p/626513509?utm_id=0 卷积神经网络