在keras中,之前只是从理论上了解了padding=same的原理,并没有自己尝试写出这个功能,当自己尝试写出这一过程时,发现我在理论上的理解与实际的实现有一定的差异,所以写出这篇博客,记录下自己写的过程中发现的一些细节偏差。(注,由于我做的工作使用的是一维数据,不是图片这种二维数据,故下面都是以一维数据为例记录说明)
padding的作用
首先重复下padding的作用:对于一个样本数据,假设是1*n的向量,若对这个向量不做任何处理,直接对其进行卷积运算,那么得到的必然是1*n1的向量(其中n1<n)。
通过padding选择valid或same,我们可以使得到的向量要么是1*n1的向量,要么是1*n的向量。padding的作用就是选择卷积结果的shape。
padding=same的扩长
要扩长补零的原因:对于一个样本,一个卷积核一次卷积运算后得一个数,那么通过步长移动卷积核,则对输入数据进行m次卷积运算,可以得到m个数据。若想要输出结果和输入数据的长度一样为L0,那么就得保证刚好能进行L0次卷积运算。输入数据不扩长,是不能得到与输入数据等长的结果。
当padding=same时,要想使卷积输出与输入保持相同的shape,那么要在卷积运算之前对输入数据进行扩长补零。那么该补多少个零?补在什么位置?
对于扩长至多少,我并没有网上查,而是自己推测,并对推测结果进行验证,最终的结果如下:
L1=(L0-1)*strides+kerner_size
其中L0 是输入的一维数据长度,L1是扩长后的数据长度,strides是卷积核步长,kernel_size是卷积核长度(数据是一维的,卷积核也是)。
如下图所示,以输入数据长5,卷积核长3,步长为2为例进行说明。
补零位置
可能是我搜索的原因,我在网络上查到结果是,二维数据补一圈零(但是我的是一维数据,不能用),或者是末尾补零(我试了,卷积运算结果不对)。最后只能是我自己使用试探法试探了,试探的结果是:均匀补零。
均匀补零就是输入数据占据中间位置,其前后留下的相同空位补零。以输入数据长度为50,卷积核长度为10,步长为1,进行说明,其他情况类推:我们可以算出补长至59,输入数据占据中间50个位置,还剩9个空位补零,那么这就有个小问题,9不是偶数,这50个数前面是4还是5个零?我试探的答案是4,即50个输入数据前面补4个零,后面补5个零。对于偶数个补零位,当然是前后各一半了。