3.11 随机初始化

逻辑回归中可以将参数初始化为0，但是神经网络却不行。
偏置b可以初始为0，w却不行。
当把w初始化为0的时候，隐藏单元进行的计算是一样的，所以多个隐藏单元会变得没有意义。
w可以初始化为很小的值。因为在计算激活函数时，w在很小的时候，梯度会很大。学习速度回很快。