PReLU的a是学习得到,RReLU的a是随机采样变换。在测试中是固定。
PCA白化的一个缺点是会增加数据中的噪声,因为它把输入数据的所有维度都延伸到相同的大小,这些维度中就包含噪音维度(往往表现为不相关的且方差较小)。这种缺点在实际操作中可以通过把1e-5增大到一个更大的值来引入更强的平滑。
5、感受野计算方式
K代表卷积核的大小, S代表步长
PReLU的a是学习得到,RReLU的a是随机采样变换。在测试中是固定。
PCA白化的一个缺点是会增加数据中的噪声,因为它把输入数据的所有维度都延伸到相同的大小,这些维度中就包含噪音维度(往往表现为不相关的且方差较小)。这种缺点在实际操作中可以通过把1e-5增大到一个更大的值来引入更强的平滑。
K代表卷积核的大小, S代表步长