离散卷积:离散卷积就是我们常用的,卷积核与输入的feature map各项乘积之和,从而提取特征的一种卷积方式,生成新的feature map。(这里说的卷积严格意义上叫做“互相关”,与信号处理的卷积操作有所不同,但是在机器学习里就叫他卷积啦~~)
如下图所示:是一个5x5的输入与一个3x3的卷积核进行no padding,stride = 1的卷积操作。
可以使用不同的内核重复该过程以根据需要形成尽可能多的输出特征映射。
卷积从矩阵方法看:
是一个4x4的输入与一个3x3的卷积核进行no padding,stride = 1的卷积操作。
若将输入与输出从左往右从上往下展开为向量,输入是16x1的向量,输出是4x1的向量,则卷积可以表示为稀疏矩阵 ,其中非零元素是 内核的元素
内核分别):
过程是:(16,1)T * (16,4) = (1,4),然后reshape成(2x2)的输出。
转置卷积,就是把输出与稀疏矩阵C相乘得到(1,16),在reshape成(4x4)。
我理解的转置卷积就是卷积的一种特殊形式,本质还是对feature map 进行padding之后进行的卷积的操作。如下图: