CNN基于两个关键性质:
1)局部接收域 ——计算的目的
2)权重共享——学习平移不变性。
1、权重共享的缺点:不能学习到其他的不变性,如旋转,尺度等,因为权重相同,等于第二层的池化单元是对相同基函数的池化。
2、为了在计算量和不变性之间权衡,提出TCNN,即相邻单元间的权重不相同,距离远的单元权重相同。规定,只有相距k个单元的隐藏单元的权重相同。如果k=1,变为CNN。
CNN基于两个关键性质:
1)局部接收域 ——计算的目的
2)权重共享——学习平移不变性。
1、权重共享的缺点:不能学习到其他的不变性,如旋转,尺度等,因为权重相同,等于第二层的池化单元是对相同基函数的池化。
2、为了在计算量和不变性之间权衡,提出TCNN,即相邻单元间的权重不相同,距离远的单元权重相同。规定,只有相距k个单元的隐藏单元的权重相同。如果k=1,变为CNN。