一般来讲,要保持方差不变,线性变换是正交变换是最好的。如果是正交变换,则要求每个滤波向量的长度为1.可以证明以xavier初始化的方式,可以保证向量长度的期望为1.
xavier初始化的背后原理
最新推荐文章于 2024-03-12 11:37:09 发布
一般来讲,要保持方差不变,线性变换是正交变换是最好的。如果是正交变换,则要求每个滤波向量的长度为1.可以证明以xavier初始化的方式,可以保证向量长度的期望为1.