机器学习4:卷积运算简介【旧笔记整理】
(1)卷积运算简介:
卷积即在卷积核滑动过程中,矩阵与卷积核对应位置的数据相乘最后乘积求和的计算过程。
(2)卷积运算的特性:
①稀疏连接:
1.原理:通过将卷积核大小限制为远小于输入的大小来实现;
2.意义:通过稀疏连接可以减少权重参数的数量,可以降低计算的复杂度,并防止过拟合提高模型的泛化性。
②参数共享:
1.简介:相同的参数被用在同一个模型的多个函数中,在卷积神经网络中,核的每个元素会作用在输入的每一个位置上,即用一个滤波器滑动整张图片,也就是滤波器共享;
2.意义:参数共享可以显著降低参数的数量,它不会改变前向传播的运行时间,它只是显著地把需要存储的权重系数数量降低。
③平移变换:
1.简介:等变在数学中指某个函数当输入改变,输出以同样的方式改变。
卷积具有平移等变特性,即移动输入图像,卷积后输出依然会得到相同的量。
2.意义:处理图像时,平移等变使卷积产生了一个二维映射来表明输入中某些存在的特征,如果移动输入的某些对象,则输出中的特征也会进行一定的移动。
(3)tensorflow中卷积运算的实现:
conv2d(input,filter,strides,padding,use_cudnn_cn_gn,data_format,name)等。