神经网络权重w不能初始化为同一个常数

本文参考：https://www.cnblogs.com/hejunlin1992/p/13022391.html

本文中心：神经网络每一层的权重w初始化时，不可以初始化为同一个常数。

1 针对逻辑回归：w可以全部初始化为0

即使w11和w21被初始化为同一常数，输入的x1和x2不同，更新得到的w11和w21就不一样。

2 神经网络：权重w不可以初始化为同一常数

我们希望一个隐藏层中的不同单元提取不同的特征（不同单元对应于不同的权重），所以不可以把所有权重初始化为同一常数。