1、参数初始化为相同的值会怎样? 假设将所有的参数都初始化为0(或者相同的值),那么神经网络中的每个单元都会输出相同的激活值,同样也会有相同的误差值,这就会导致代价函数对各个参数的偏导数也相同,最终使用优化算法在增新参数后,所有的参数仍然相等,造成参数对称问题。 2、如何解决参数对称问题? 最好的解决办法是随机初始化参数。