话不多说了直接放链接吧,我自己也没有链接说得好。
为什么参数不能设为一样的:因为每次更新,每层的参数都会是一样的
参数设置实验
参数如何设置:加了BN层之后其实对输入分布有了约束,大大减少了参数初始化造成的影响,所以一般取Xavier随机初始化方式(均值为0,方差为1/√n,n为上一层神经元数量)或者,小方差的高斯分布。
为什么神经网络中的参数不能设为一样的,那要怎么设置呢
最新推荐文章于 2023-05-23 10:18:06 发布
话不多说了直接放链接吧,我自己也没有链接说得好。
为什么参数不能设为一样的:因为每次更新,每层的参数都会是一样的
参数设置实验
参数如何设置:加了BN层之后其实对输入分布有了约束,大大减少了参数初始化造成的影响,所以一般取Xavier随机初始化方式(均值为0,方差为1/√n,n为上一层神经元数量)或者,小方差的高斯分布。